С 1749 г. пел в хоре знаменитого Мелькского монастыря. В 1753 г. отправился в Вену для изучения философии у иезуитов; здесь подружился с Михаэлем Гайдном, через которого познакомился и с Йозефом Гайдном. В 1755—1757 гг. органист в Раабе, затем в городке Мариа-Таферль, с 1759 г. непосредственно в Мельке, в 1766—1768 гг. вновь в Раабе. В дальнейшем работал в Вене, в 1770 г. органист Собора Святого Стефана, в 1771 г. регент монастыря кармелиток в Дёблинге, с 1772 г. второй органист венского императорского двора. Альбрехтсбергер сочинял также музыку для частного музицирования при дворе (император Иосиф II играл на виолончели). В 1793 г. Альбрехтсбергер сменил Леопольда Гофмана на посту капельмейстера Собора Святого Стефана и занимал этот пост до конца своих дней.
Среди учеников Альбрехтсбергера в разное время были такие выдающиеся музыканты, как Иоганн Непомук Гуммель, Карл Черни, Игнац Мошелес, а также Венцель Галенберг, Фердинанд Рис, братья Пиксис и многие другие; у него учился и Людвиг ван Бетховен (прежде всего, контрапункту), про которого Альбрехтсбергер однажды в сердцах заметил, что тот не может сделать ничего как следует (нем. [Er wird] … nie was Ordentliches machen).
Обширное композиторское наследие Альбрехтсбергера почти поровну разделяется на церковные и светские сочинения. По мнению музыковеда Ю. Бочарова, «искусство Альбрехтсбергера демонстрирует уникальный пример органичного синтеза стиля венского классицизма со многими традициями музыкального барокко».
В педагогическом наследии Альбрехтсбергера основное место занимает учебник «Фундаментальное руководство по композиции…» (нем. Gr?ndliche Anweisung zur Composition mit deutlichen und ausf?hrlichen Exempeln, zum Selbstunterrichte, erl?utert; und mit einem Anhange: Von der Beschaffenheit und Anwendung aller jetzt ?blichen musikalischen Instrumente; Лейпциг, 1790). Другие учебно-теоретические труды Альбрехтсбергера собраны и изданы в 1826 г. его учеником Игнацем фон Зайфридом.