Сын священника. Среднее образование получил Переяславском духовном училище (с 1851 года) и Владимирской духовной семинарии (с 1858 года).
По окончании поступил (в 1863 году) в Киевскую духовную академию, откуда перешёл (10 декабря 1865 года) на историко-филологический факультет Новороссийского университета, в котором окончил курс в 1869 году по славяно-русскому отделению. Обучался у В.И. Григоровича, некоторые курсы которого впоследствии по своим записям издал в «Русском филологическом вестнике».
После окончания университета 1 сентября 1869 года поступил на службу учителем русского языка и словесности в Одесскую Ришельевскую мужскую гимназию и в Мариинскую женскую, но через пять лет оставил Ришельевскую гимназию, чтобы подготовится к магистерскому экзамену, который сдал в 1874 году, поле чего перешёл на службу в Одесское реальное училище преподавателем русского языка и словесности и начал усердно собирать материалы для своей магистерской диссертации о Слове о Полку Игореве, которую защитил 22 апреля 1879 года.
С 20 января 1880 года назначается экстраординарным, а с 14 июля 1883 года и ординарным профессором истории русской литературы в Варшавский университет вместо профессора Яковлева. Эту должность Александр Иванович занимал более 25 лет, читая лекции по истории древней и новой русской литературы и поводя практические занятия по истории русского языка.
С самого начала по вступлении в должность профессора стал редактором-издателем учебно-педагогического журнала «Русский филологический вестник», возглавляемого его основателем М. А. Колосовым. С 1980 года «Русский филологический вестник» перешёл к А.И. Смирнову и издавался под его редакцией в течение 25 лет, до 1904 года включительно. За это время вышло 50 томов журнала (с III по LII) объёмом более 1250 печатных листов. Напечатал более 70 собственных научных работ по истории русской литературы и русскому языку в «Журнале Министерства народного просвещения», в «Филологических Записках», «Варшавский Университетских Известиях» и др. изданиях.