Родился в Черикове семье земского врача Ильи Александровича и Натальи Григорьевны Ахиезеров.. В 1934 году окончил Киевский политехнический институт и начал работу в теоретическом отделе Украинского физико-технического института в Харькове (ныне — Харьковский физико-технический институт), которым в то время руководил будущий нобелевский лауреат Л.Д. Ландау (Ахиезер был третьим, кто сдал знаменитый «теорминимум»). В 1936 защитил кандидатскую диссертацию. В 1938 году, после переезда Ландау в Москву, возглавил теоретический отдел УФТИ и руководил им до 1988 года, в 1956-1959 являлся заместителем директора по науке ХФТИ. В 1940 защитил докторскую диссертацию. Во время войны УФТИ был эвакуирован в Алма-Ату. В 1944—1952 годах работал в Москве в лаборатории И.В. Курчатова над атомным проектом.
В 1936-1990 годах преподавал в Харьковском университете, в 1951-1964 — в Военной инженерной радиотехнической академии, с 1941 года — профессор. В 1940 году основал кафедру теоретической ядерной физики на физико-математическом факультете Харьковского университета и заведовал ею до 1975 года. Один из основателей физико-технического факультета университета.
А.И. Ахиезер был одним из основателей Института теоретической физики при Национальном научном центре «ХФТИ», сейчас носящего его имя. Подготовил 72 кандидата и 33 доктора наук, среди его учеников много крупных ученых, академиков Национальной академии наук Украины (В.Г. Барьяхтар, Я.Б. Файнберг, С.В. Пелетминский, А.Г. Ситенко и др.).
Работы Ахиезера посвящены самым разным разделам теоретической физики.
Квантовая электродинамика. В 1936 совместно с И.Я. Померанчуком решил задачи о рассеянии фотонов высоких энергий на фотонах и о когерентном рассеянии фотонов на ядрах, избавившись при этом от расходимостей на основе представлений о калибровочной инвариантности. В 1963 совместно с Р.В. Половиным рассчитал радиационные поправки для ряда эффектов квантовой электродинамики. В 1974-1982 совместно с Н.Ф. Шульгой и В.Ф. Болдышевым рассмотрел процессы излучения каналированных электронов и позитронов в кристаллах. В 1975-1995 совместно с Н.Ф. Шульгой разработал теорию квантово-электродинамических явлений в кристаллах.
Ядерная физика. В 1941-1947 совместно с И.Я. Померанчуком рассмотрел процессы рассеяния медленных нейтронов кристаллами, независимо от Э. Ферми предсказал возможность получения холодных нейтронов, в 1948-1949 развил теорию резонансных ядерных реакций и теорию дифракции при рассеянии заряженных частиц на ядрах (модель Ахиезера — Померанчука). Исследовал рассеяние систем, состоящих из слабо связанных частиц, на ядрах, что позволило в 1955 совместно с А.Г. Ситенко предсказать дифракционное расщепление дейтрона. В 1964 совместно с М.П. Рекало рассчитал ряд электромагнитных характеристик адронов, обобщил кварковую модель с учетом процессов электромагнетизма. Совместно с И.А. Ахиезером развил теорию рассеяния пионов в ядерной материи. Большое внимание уделял практическим вопросам: проблеме замедления нейтронов, построению линейных ускорителей и проч.
Физика плазмы. В 1949 совместно Я.Б. Файнбергом предсказал экспоненциальный рост флуктуаций в плазме под действием электронного пучка (так называемая пучковая неустойчивость плазмы). Внес вклад в развитие теории ударных волн в плазме, в 1948 совместно с Г.Я. Любарским и Р.В. Половиным установил условия эволюционности и критерии устойчивости магнитогидродинамических волн. В 1947 совместно с Л.Э. Паргамаником предсказал электронный циклотронный резонанс. В 1957 совместно с А.Г. Ситенко и И.Г. Проходой изучил рассеяние электромагнитных волн на флуктуациях плазмы.
Физика твердого тела. В 1938 заложил основы кинетической теории поглощения звука в твердых телах (механизм поглощения Ахиезера), применил её для рассмотрения поглощения ультразвука в металлах, диэлектриках и магнитных кристаллах (1957, совместно с Г.Я. Любарским и М.И. Кагановым). В 1946 ввел концепцию магнонов (квантов спиновых волн) в ферродиэлектриках и рассмотрел их взаимодействие с фононами и между собой. Это привело к построению в 1959 теории релаксационных и кинетических процессов в магнитоупорядоченных кристаллах. На этой основе в 1956 совместно с В.Г. Баръяхтаром и С.В. Пелетминским предсказал эффект магнитоакустического резонанса, состоящего в том, что при совпадении частот и волновых векторов спиновой и звуковой волн происходит резкое усиление взаимодействия между ними. Построил теорию связанных магнитоакустических волн, изучил ряд явлений, возникающих в условиях магнитоакустического резонанса. Эта работа была признана как научное открытие и занесена в Государственный реестр открытий СССР под № 46 с приоритетом от 1956 г. в следующей формулировке: "Установлено неизвестное ранее явление взаимодействия гиперзвуковых и магнитных (спиновых) волн в ферро-, ферри- и антиферромагнетиках, особенно интенсивно проявляющееся в виде возбуждения магнитных волн гиперзвуковыми и гиперзвуковых волн магнитными при совпадении частот этих колебаний (магнитоакустический резонанс)".