Альберту Азаряну было 15 лет, когда умер его отец, и ему пришлось помогать матери. Он стал работать в кузнице. Только в возрасте семнадцати лет он начал заниматься гимнастикой.
Азарян был сильнейшим гимнастом своего времени в упражнениях на кольцах. С середины пятидесятых годов «крест», который выполнял Азарян, называется «Крест Азаряна».
С 1952 по 1962 годы Азарян одиннадцать раз становился чемпионом СССР, в том числе восемь раз в упражнении на кольцах. В 1954 и 1958 годах Азарян был чемпионом мира в упражнениях на кольцах, а в 1956 и 1960 годах — чемпионом Олимпийских игр.
После окончания спортивной карьеры, Азарян руководил школой гимнастики в Ереване, а также занимался судейством международных соревнований. Сын Альберта Азаряна, Эдуард Азарян в составе сборной СССР был чемпионом московской Олимпиады в командных соревнованиях.
В 2000 году спортивными журналистами Армении Альберт Азарян был признан лучшим армянским спортсменом XX века. В 2004 и 2008 годах ему было доверено право нести знамя Армении на церемонии открытия Олимпийских игр в Афинах и Пекине. В настоящее время Альберт Азарян возглавляет Федерацию гимнастики Армении.
Альберт Азарян награждён орденом Трудового Красного Знамени и орденом «Знак Почета».