Родился 8 марта 1905 году в селе Шарлык (ныне Шарлыкского района Оренбургской области) в бедной крестьянской семье. Русский. Член ВКП(б)/КПСС с 1929 года. В Красной Армии с 1927 года. В 1932 году окончил Военную школу имени ВЦИК. Участвовал в гражданской войне в Испании.
Звание Героя Советского Союза майору Родимцеву Александру Ильичу присвоено 22 октября 1937 года за образцовое выполнение особого задания в Испании.
Участвовал в освободительном походе в Западную Белоруссию. В 1939 году он окончил Военную академию имени М. В. Фрунзе. В 1940 участвовал в советско-финской войне.
В годы Великой Отечественной войны А. И. Родимцев командовал 5-й бригадой 3-го воздушно-десантного корпуса (5-я, 6-я, 212-я ВДБр), которая в 1941 г. принимала участие в обороне Киева. 06.11.1941 управление 5-й вдбр было развёрнуто в управление 87-й стрелковой дивизии, созданной из войск 3-го вдк, которую возглавил Родимцев. 19.01.1942 87-я стрелковая дивизия была переформирована в 13-ю гвардейскую стрелковую дивизию. 13-я гвардейская стрелковая дивизия (впоследствии — 13-я Полтавская ордена Ленина дважды Краснознамённая гвардейская стрелковая дивизия) вошла в состав 62-й армии, героически защищавшей Сталинград. Генерал-майор (21.05.1942). С 1943 года Родимцев — командир 32-го гвардейского стрелкового корпуса, с которым дошёл до столицы Чехословакии — Праги. Генерал-лейтенант (17.01.1944).
Второй медали «Золотая Звезда» командир 32-го гвардейского стрелкового корпуса гвардии генерал-лейтенант Родимцев удостоен 2 июня 1945 года за умелое руководство войсками при форсировании реки Одер 25 января 1945 в районе населённого пункта Линден (Польша), личный героизм и мужество.
После войны окончил Высшие академические курсы при Академии Генерального штаба. Был командиром соединения, помощником командующего войсками округа, главным военным советником и военным атташе в Албании. С 1956 года служил в войсках. С 1966 года — в группе генеральных инспекторов МО СССР. Избирался депутатом Верховного Совета РСФСР второго созыва и депутатом Верховного Совета СССР третьего созыва.
А. И. Родимцев скончался в Москве 13 апреля 1977 года.
В балладе Александра Межирова «Коммунисты, вперёд!» имеется упоминание о Родимцеве: