Иосиф Эльгурт родился в Кишинёве в семье гравёра. Получил традиционное еврейское образование; в 1934—1938 годах учился в румынской гимназии, в 1939—1941 годах — в кишинёвском художественном училище у Ш. Г. Когана. В 1941 году был вместе с семьёй депортирован румынской оккупационной армией в гетто Транснистрии, где вся его семья погибла. После освобождения в 1944 году вернулся в Кишинёв и в 1951 году окончил городское художественное училище.
С 1952 года жил в Риге, где в 1958 году окончил Государственную латвийскую академию художеств по отделению графики Арвида Эгле и Петериса Упитиса. Персональные выставки проходили в Латвии, Германии, Франции, Швейцарии, США.