Ал. А. Фёдоров родился в Твери в семье садовода. Высшее образование получил в своём родном городе — в Тверском педагогическом институте, который закончил в 1929 году. В 1929 году переехал в Ленинград; до 1934 года работал во Всесоюзном институте прикладной ботаники и новых культур (с 1930 года институт назывался Всесоюзным институтом растениеводства, сейчас — Всероссийский институт растениеводства им. Н. И. Вавилова), в том числе в его Сухумском и Ленкоранском отделениях.
В 1934 году перешёл в незадолго до этого (в 1931 году) созданный Ботанический институт АН СССР (с 1940 года — Ботанический институт имени В. Л. Комарова), в котором работал до конца жизни. Во время войны, в 1942 году, вступил в КПСС. С 1947 года — заместитель директора, а в 1962—1976 гг. — директор института.
С 26 июня 1964 года — член-корреспондент АН СССР по Отделению общей биологии.
Основные труды посвящены морфологии растений (в первую очередь описательной морфологии и тератологии цветковых растений), систематике цветковых растений, а также вопросам ботанического ресурсоведения.
В 1930-е и 1940-е годы Ал. А. Фёдоров занимался разработкой методов полевых исследований, картирования и учёта растительных ресурсов. Им было составлено несколько ботанических сводок: диких эфиромасличных растений влажных субтропиков СССР (1938), лекарственных растений азербайджанского района Талыш, камеденосных растений Туркмении. Предложил новый способ картирования растительного покрова — с воспроизведением ландшафта местности.
В послевоенные годы Ал. А. Фёдоров занимается в большей степени морфологией цветковых растений, в том числе ботанической тератологией — наукой об аномалиях в развитии растений: те аномалии, которые носят характер атавизмов, могут нести информацию, важную для понимания эволюции организмов (к примеру, в работе 1950 года он описывает возможные пути развития соцветий в пределах семейства Астровые (сложноцветные) на основе анализа аномальных зонтиковидных соцветий у некоторых современных представителей этого семейства). В 1958 году он опубликовал работу «Тератология и формообразование у растений», в которой описал явление тератогенеза. Ал. А. Фёдоров — соавтор «Атласа по описательной морфологии высших растений» («Лист», 1956; «Стебель и корень», 1962; «Цветок», 1975; «Плод», 1979; «Соцветие», 1979).
В 1955 году подписал «Письмо трёхсот» — направленное в Президиум ЦК КПСС письмо с критикой деятельности Т. Д. Лысенко и общей оценкой состояния биологии в СССР. Письмо было составленное большой группой советских учёных и привело в конечном счёте к отставке Лысенко с поста президента ВАСХНИЛ.
В 1974—1980 гг. Ал. А. Фёдоров — главный редактор первых четырёх томов, а также первой части 5-го тома «Жизни растений», крупнейшего научно-популярного ботанического издания, выходившего когда-либо на русском языке.
Александр Александрович Фёдоров был награждён четырьмя орденами Трудового Красного Знамени.
В 1957 году за работу «Атлас по описательной морфологии высших растений. Лист» (1956) Ал. А. Фёдоров вместе с соавторами (Моисеем Эльевичем Кирпичниковым и Зинаидой Трофимовной Артюшенко) был удостоен премии имени В. Л. Комарова АН СССР.
Брат Александра Александровича Фёдорова, Андрей Александрович Фёдоров (1908—1987), также был ботаником, членом-корреспондентом АН СССР (1970). Его основные труда — по систематике и географии цветковых растений, по истории флоры. Автор наименований ряда ботанических таксонов; в ботанической номенклатуре эти названия дополняются сокращением «Fed.».
Поскольку фамилия и инициалы у двух братьев совпадают, в литературе обычно используются сокращения Фёдоров Ал. А. для Александра Александровича Фёдорова и Фёдоров Ан. А. для Андрея Александровича Фёдорова.