Один из выдающихся зодчих Европы XX века, чье художественное наследие оказывает значительное влияние на развитие современной архитектуры. Его архитектурные шедевры в огромной степени повлияли на формирование облика Минска и являются жемчужинами белорусского зодчества.
Родился в 1882 году в местечке Бельск в еврейской семье Гирша Лангбарда. Отец видел будущее для сына в коммерции, однако Иосиф с детства любил рисовать.
Блестяще окончив местную гимназию, он поступает на архитектурное отделение Одесского художественного училища. B 1906 закончил Одесское художественное училище, a в 1907 году переехал в Санкт-Петербург, где успешно выдержал экзамены в Петербургскую академию художеств на архитектурный факультет. Отучился семь лет в Петербурге (1907—1914) и архитектура города сильно повлияла на дальнейшее творчество архитектора. Среди учителей Лангбарда был знаменитый Александр Померанцев (спроектировал здание ГУМа в Москве). Именно под его руководством Лангбард в 1914 защищает дипломный проект «Здание государственного совета».
Во время Первой мировой войны Лангбард работает на фронте в качестве начальника инженерного отряда. Под его руководством в это время встают земская управа в КостромаКостроме, сельскохозяйственный музей и театр миниатюра в Петрограде. По окончании войны он становится исполнителем работ строительной конторы при отделе здравоохранения в Петрограде.
В 1929 году выиграл объявленный в Беларуси конкурс на лучший проект Дома правительства.
В начале 1930-х Лангбард получает первые крупные заказы на строительство в Беларуси и Украине. Первым проектом, реализованным Лангбардом по приезду в Минск, стало строительство примерно 40-ка деревянных павильонов для общебелорусской сельскохозяйственной и промышленной выставки. После этого его приглашают для проектирования застройки центральной части города. Лангбард предлагает макеты трех зданий: Дом правительства, Театр оперы и балета и Дом Красной Армии (современный Дом офицеров). Проект Дома правительства был подготовлен и утвержден в 1929 году, а с 1930 по 1934 годы он был реализован. Перед ним был поставлен памятник В. Ленину, разработанный Лангбардом вместе с ленинградским скульптором М. Манизером. За этот ансамбль Иосиф Лангбард получил звание заслуженного деятеля искусств БССР.
В 1935 году Лангбарду было поручено разработать проект Дома Советов в Могилеве, куда вскоре предполагалось перенести столицу БССР. Здание возводится в 1938—1940 годы. Начиная с 1933 реализуются еще два проекта архитектора: Театр оперы и балета на Троицкой горе и Дом Красной Армии на фундаменте бывшего архиерейского дворца. В 1935 году Лангбард берется за переработку проекта Академии наук БССР, разработанного Г. Лавровым.
Во время войны работал над маскировкой зданий в Ленинграде, жил в Ярославской области. В 1944 году возвращается в разрушенный Минск. В 1944 г. в составе комиссии Комитета по делам архитектуры при СНК СССР работал над планами реконструкции Минска и Гомеля. В 1949 году за данную работу награжден орденом «Знак Почёта». Вместе с М. Баклановым разрабатывал проект кинотеатра «Победа», законченного в 1950 году.
С 1935 по 1950 Иосиф Лангбард преподавал в Академии художеств в Ленинграде. В 1939 защитил докторскую диссертацию по архитектуре.
Умер 3 января 1951 года в Ленинграде.
Иосиф Лангбард был сторонником вертикальных архитектурных решений. "Горизонтальная форма представляется как состояние спящего или мертвого человека, что отрицательно воздействует , — отмечал он. — Между тем как вертикальное положение олицетворяет жизнь, бодрость и силу, оно противостоит тяге к земле ". По профессиональных взглядам был сторонником критического освоения и использования традиций прошлого. В классике считал достойным архитектурную дисциплину, порядок, соизмеримость основных форм, стремился развивать простоту и ясность композиционных решений, характерных для белорусской национальной архитектуры. Насчет декорации фасада имел следующее мнение: «Лучше не знать, как украсить здание, чем сделать в этом лишнее».
На практике были реализованы 15 проектов архитектора, из которых 8 в Белоруссии:
Министерство иностранных дел, Киев
Дом офицеров, Минск
Облисполком, Могилёв
Дом правительства, Минск
Академия наук, Минск
Дом офицеров, Минск
Дом правительства, Минск
Дом правительства, Минск
Театр оперы и балета, Минск