Родился в городе Одесса (Украина) в семье рабочего. Еврей. Окончил 10 классов и школу ФЗУ, работал токарем на заводе «Техпластмасс».
В Красной Армии в 1933-35 годах и с 1939 года. Участник освободительного похода советских войск в Западную Украину и Западную Белоруссию 1939 года, советско-финляндской войны 1939-40 годов. Член ВКП(б)/КПСС с 1941 года. На фронтах Великой Отечественной войны с 1941 года.
Командир 60-го отдельного штурмового инженерно-сапёрного батальона (12-я штурмовая инженерно-сапёрная бригада, 51-я армия, Южный фронт) капитан Иосиф Серпер особо отличился 19 октября 1943 года в боях в районе города Мелитополь Запорожской области Украины.
Вверенный капитану Серперу батальон, сопровождая боевые порядки стрелковых подразделений, уничтожил двенадцать огневых точек, взял штурмом два укреплённых дома, подорвал двенадцать танков и одну бронемашину.
Командир инженерно-сапёрного батальона И. Л. Серпер умело организовал инженерное обеспечение наступающих стрелковых подразделений.
С 1946 года — в запасе. В 1963 году он окончил Одесский технологический институт пищевой и холодильной промышленности. Жил в Одессе, где до ухода на пенсию работал на заводе «Холодмаш» начальником отдела новой техники.
В конце 80-х — начале 90-х годов И. Л. Серпер эмигрировал в США, уехал в город Сан-Франциско к дочери, чтобы не оставаться одному. Скончался на 91-м году жизни, в 2002 году.
Указом Президиума Верховного Совета СССР от 1 ноября 1943 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистским захватчиками и проявленные при этом мужество и героизм капитану Серперу Иосифу Лазаревичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 1293).
Награждён орденом Ленина, 2-я орденами Отечественной войны 1-й степени, орденом Красной Звезды, медалями.
В родном городе Героя, на площади у оперного театра, его имя выгравировано на Стене Героев Советского Союза, — уроженцев Одессы.
Серпер, Иосиф Лазаревич на сайте «Герои страны»