Родился в Макеевке. В 1942 годы был призван в Красную Армию и направлен на учёбу в Ленинградское военно-морское инженерное училище. С 1944 года служит в действующих частях Балтийского флота.
После окончания Великой Отечественной войны окончил учёбы, получив диплом инженера по строительству военно-морских баз, служил на Черноморском флоте, где участвовал в разминировании территорий.
Занимался преподавательской работой, служил в НИИ-12 ВМФ и ЦНИИ-26 Министерства обороны, принимал участие в разработке и создании образцов вооружения атомных подводных лодок. Сам занимался изобретательством: автор десяти научных трудов и обладатель пяти патентов.
В конце 1970-х принимал участие в открытии нового военно-строительного вуза. Александр Ильич Сержанов лично обследовал выделенные площадки и выбрал место для строительства военного училища в Тольятти. Он же стал и одним из авторов проекта военного городка вуза и его учебно-полевой базы.
После формирования училища возглавил его и руководил до 1984 года.
С 1984 года в отставке. Переехал в Киев, затем в г. Яготин Киевской области, но в 1996 вернулся в Тольятти, где возглавил совет ветеранов училища.