Эрцгерцог Иосиф Антон Иоганн родился 9 марта 1776 года и был 9 ребёнком и 7 сыном в семье императора Леопольда II (1747—1792) и его жены Марии Людовики (1745—1792), урождённой принцессы испанской. По линии отца — внук императрицы Марии Терезии, по линии матери — внук короля Испании Карла III.
После гибели старшего брата эрцгерцога Александра Леопольда в 1796 году в возрасте двадцати лет Иосиф Антон унаследовал титул палатина Венгерского королевства (наместника императора в Венгрии).
В 1778 году из-за нависшей «французской» угрозы начались переговоры о упрочении союза между Австрией и Россией. Вследствие чего возник проект брака между эрцгерцогом Иосифом и великой княжной Александрой Павловной, старшей дочерью императора Павла I.В феврале 1799 года палатин Венгерский прибыл в Петербург. Граф Фёдор Васильевич Ростопчин в письмах к своему другу графу С. Р. Воронцову писал:
Эрцгерцог всем отменно полюбился как своим умом, так и знаниями. Он застенчив, неловок, но фигуру имеет приятную. Выговор его более итальянский, чем немецкий. Он влюбился в великую княжну, и в воскресенье имеет быть комнатный сговор, после коего через 10 дней эрцгерцог отправится в Вену, а оттоль к армии в Италию, коею он командовать будет.
В день бракосочетания, которое состоялось 19 октября 1799 года в Гатчине, император Павел I пожаловал эрцгерцогу Андреевский орден.
Палатин пользовался любовью подданных. В 1860 году на главной площади Пешта ему был установлен памятник.
Скончался эрцгерцог Иосиф 13 января 1847 года в Офене (Буда).
Первой супругой эрцгерцога Иосифа была великая княжна Александра Павловна (1783—1801). Их семейная жизнь была недолгой, в 1801 году она скончалась от послеродовой горячки.
30 августа 1815 года в Шаумбурге эрцгерцог Иосиф вступил в брак с принцессой Герминой (1797—1817), дочерью князя Виктора II Анхальт-Бернбург-Хоймского. Через два года она умерла при родах.
24 августа1819 года эрцгерцог Иосиф вступил в брак с принцессой Марией (1797—1855), дочерью Людвига Вюртембергского, герцога Текского.
Потомки эрцгерцога Иосифа основали так называемую «венгерскую» ветвь дома Габсбургов.