Альбрехт V был сыном австрийского герцога Альбрехта IV и Иоганны Софии Баварской. Когда после смерти отца в 1404 году он унаследовал престол Австрии, Альбрехту было всего семь лет. Опеку над юным герцогом оспаривали его дядья из Леопольдинской линии габсбургского дома, пока в 1406 году они не пришли к соглашению о назначении опекуном Леопольда IV, старшего в роде.
Тем не менее междоусобицы возобновились в 1407 году, когда городской совет Вены выступил в поддержку штирийского герцога Эрнста Железного. Между Леопольдом IV и Эрнстом началась война, сопровождавшаяся казнями сторонником той и другой стороны. Победу в конце концов одержал Леопольд IV, однако в 1411 году он скончался, и бразды правления Австрийским герцогством взял на себя Альбрехт V.
Начало самостоятельного правления Альбрехта V в Австрии было довольно успешным. Герцог поощрял развитие торговли и добился подчинения аристократии центральной власти. В стране воцарилось спокойствие и порядок. Однако в начале 1420-х годов Альбрехт V тесно сблизился с императором Сигизмундом и в 1422 году женился на его дочери и наследнице Елизавете Люксембургской. По материнской линии предками Елизаветы были короли Венгрии, Чехии и Польши, что ставило Альбрехта V в центр династических связей Центральной Европы.
С другой строны, союз с Сигизмундом означал вовлечение Альбрехта V в войну, которую император безуспешно вёл с гуситами Чехии. В 1423 году Сигизмунд даровал своему зятю в апанаж маркграфство Моравия, находящееся на первом рубеже борьбы с гуситами. Уже в 1420 году Альбрехт V участвовал в крестовом походе против гуситов в Чехию и неудачно осаждал гуситский лагерь в Таборе. Позднее на войну с гуситами была направлена двенадцатитысячная армия, набранная в Австрии. Но чешские повстанцы перешли в наступление и в 1425 году вторглись на территорию Австрии. Спустя два года Альбрехт V вновь возглавил крестовый поход на гуситов, но потерпел поражение, а австрийские земли были разорены гуситскими отрядами. Вена и другие города герцогства подверглись осаде. Лишь в 1431 году у Кирхберга и в 1432 году у Зноймо австрийским войскам удалось разбить чешских ополченцев.
В 1437 году скончался император Сигизмунд. В соответствии с договором 1402 года, заключённым ещё Альбрехтом IV Габсбургом, в случае отсутствия сыновей у Сигизмунда, ему должны были наследовать Габсбурги. И действительно, собрание сословий Венгрии, а затем сейм Чешского королевства признали Альбрехта V королём. Правда, в Венгрии Альбрехт был вынужден подписать достаточно жёсткие требования, предусматривающие необходимость согласования с баронами и прелатами королевства всех вопросов внутренней и внешней политики и назначение на государственные должности исключительно венгров. 1 января 1438 года Альбрехт был коронован в Секешфехерваре королём Венгрии под именем Альберта (венг. Albert).
В Чехии Альбрехт столкнулся с оппозицией части гуситского дворянства, ориентировавшейся на Польшу и желавшей видеть в качестве чешского короля представителя правящей в Польше династии Ягеллонов. Гуситы вновь укрепили Табор, а в страну вторглись польские войска. Альбрехту, однако, удалось оттеснить поляков, примириться с оппозицией и утвердиться на чешском престоле.
18 марта 1438 года Альбрехт был избран немецкими курфюрстами во Франкфурте королём Германии под именем Альбрехта II. Впервые в истории престолы Австрии, Чехии, Венгрии и Германии были объединены под властью Габсбурга. С 1438 года и до падения Священной Римской империи в 1806 году престол империи постоянно (кроме короткого периода 1742 — 1745 годов) занимали Габсбурги. Сам Альбрехт, однако, не пытался пройти официальную коронацию императором в Риме (возможно, просто не успел).
Главной проблемой в новых владениях Альбрехта была резко возросшая турецкая угроза. Султан Баязид II напал на владения сербского деспота Георгия Бранковича, главного союзника венгерских королей на Балканах, и полностью опустошил Сербию. Турки вышли к самым границам Венгрии. Альбрехт призвал венгерское дворянство к оружию на защиту своего королевства и лично возглавил поход на турок. Однако в конце октября 1439 года в военном лагере у Комарома он неожиданно заболел дизентерией и 27 октября скончался.
Единственный сын Альбрехта — Ладислав Постум — родился спустя четыре месяца после смерти короля.
Альбрехт II похоронен в усыпальнице венгерских королей в Секешфехерваре.