Долгие годы преподавал историю русской философии в Санкт-Петербургском (Ленинградском) университете. Автор книг и статей по истории русской мысли. В 1998 году по совокупности работ защитил докторскую диссертацию «Русская философия как целое. Опыт историко-систематического построения».
Один из первых, кто занимался реабилитированием русской философско-религиозной мысли и в частности творчества Николая Александровича Бердяева. По его инициативе был приглашен в Россию известный историк русской мысли Н. П. Полторацкий. Принимал самое активное участие в создании известной серии книг «Русский путь. Pro et contra», издаваемой РХГА. Издатель и комментатор сочинений Бердяева, Франка, Чаадаева,Степуна, Эрна, Яковенко и др.
А. А. Ермичев является составителем первого в России указателя статей, заметок и рецензии философского содержания, опубликованных в периодических изданиях духовных и светских учебных заведений и научных обществ при них начала XX века (с 1901 по 1922 годы).