Из полтавской гимназии он поступил в Московский университет и был ревностным учеником Ф. И. Буслаева. Общественное оживление первых лет царствования Александра II сопровождалось разнообразным подъемом народных изучений. Котляревский был увлечен этим движением и со студенческой скамьи много работал в различных отраслях «старины и народности». Он уже заметно выдвигался среди молодых, когда несчастная случайность повела, в 1862 году, к его аресту; несколько месяцев заключения сильно расстроили его здоровье, и, кроме того, арест по «политическому» делу впоследствии затруднил для него преподавательскую деятельность. Получив свободу, в 1863 году, он принял деятельное участие в основании Московского археологического общества (1864) и в первых его предприятиях. В начале 1867 года Котляревскому предложено было занять кафедру славянского и русского языковедения в Дерпте. В половине 1868 года он защитил диссертацию: «О погребальных обычаях языческих славян», обратившую на себя большое внимание в ученом мире. В Дерпте он пробыл недолго; с конца 1869 года стали обнаруживаться признаки болезни, которая с тех пор уже не оставляла его. В 1872 году он отправился за границу, жил в теплом итальянском климате, оправлялся, потом опять заболевал. Большую часть заграничного пребывания он провел в Праге, где, напечатаны его труды: «Книга о древностях и истории поморских славян в XII веке», «Сказания об Оттоне Бамбергском в отношении славянской истории и древности» (Прага, 1874) и «Древности права балтийских славян» (там же, 1874). Одна из этих книг была его докторской диссертацией, которую он защитил в Петербурге в 1874 году, при довольно бурном споре с В. И. Ламанским. Приглашение занять кафедру в Киеве было им принято, но дело было опять затруднено тем, что прежнее разрешение преподавания ограничивало его профессорскую деятельность одним Дерптом. Наконец, Высочайшим повелением это запрещение было отменено, и в конце 1875 года Котляревский поселился в Киеве. В течение нескольких лет он вел здесь курсы по различным отделам «Энциклопедии славяноведения»; принимал участие в трудах «Общества Нестора летописца», председателем которого он был избран; был также председателем славянского комитета, в то время, когда общество было возбуждено южнославянскими делами и шло движение добровольцев в Сербию; читал лекции на киевских женских курсах; работал по изданию сочинений М. А. Максимовича: приготовил и издал в воронежских «Филологических Записках» (и отдельно, в нумерованных экземплярах) замечательный «Библиографический опыт о древней русской письменности» (Воронеж, 1881; общее историческое обозрение, история изучения древнеславянского и древнерусского языков и письма). В 1881 году он, по требованию врачей, выехал за границу и умер в Пизе.
Котляревский — выдающийся представитель того периода в развитии русской науки, который последовал за первыми трудами нашей славистики и влияниями Гримма в изучении нашей народной старины: в славистике он был учеником О.М. Бодянского, но уже скоро стал самостоятельным, в изучениях народной поэзии, — учеником Буслаева, от которого принял влияние Гриммовой школы, оставаясь, однако, свободным от крайних увлечений, в какие впадали другие последователи этой школы, например, Афанасьев и Ор. Миллер . Первые его труды вызывались необходимостью установить те приемы исследования, которые приносила новая школа и которые не были достаточно строго соблюдаемы в среде самих специалистов, и устранить из науки многое, что еще пользовалось авторитетом в ходячих понятиях. Такова была его книжка: «Старина и народность» (1862); таковы были позднее специальные его разборы «Поэтических воззрений славян на природу» Афанасьева, «Истории русской жизни» Забелина и другие. Он способствовал новому направлению историко-литературного изучения, расширявшему область исторического наблюдения данными истории общественной, народнопоэтического творчества. Основание археологического общества в Москве на некоторое время направило его интересы преимущественно на археологию. В это время была написана его книга «О погребальных обычаях», которая может служить образчиком его приемов исследования: к изучению привлечены самые разнообразные источники — язык, предания, сохраненные летописью разных славянских народов, предания современные, представляющие собой отголосок старого обычая, памятники вещественные, доставляемые археологическими раскопками, наконец, предания и обычаи других индоевропейских племен. В Киеве он мог поставить свой курс гораздо шире, чем в Дерпте; его мечтой была энциклопедия славяноведения — систематическое обобщение того, что сделано до сих пор в науке. Этот план он старался выполнить в своих курсах. Осуществить его в литературе ему не было дано, но здесь, как и в ранних его трудах, сказывается живое понимание потребностей науки в условиях нашего образования. Возникая обыкновенно из чужого источника или подчиняясь ходу западных научных теорий, она существовала отрывочно, эпизодически, лишенная и общих оснований и метода, и обобщений, и потому столь же отрывочно она отражалась и в общем образовании, в котором должна была иметь свою первоначальную опору. Поэтому, наряду с исследованиями специальными, Котляревский считал необходимыми общие обзоры и руководства.
Работы Котляревского, кроме отдельно изданных им книг, рассеяны частью в общих изданиях, частью в специальных, как воронежские «Филологические записки», «Труды» и «Вестник» Московского археологического общества, «Отчеты об Уваровских премиях при Академии Наук», «Беседы» Московского общества любителей российской словесности, «Труды» Киевского общества Нестора летописца и др. В 1889—1891 годах изданы при II отделении Академии Наук «Сочинения А. А. Котляревского» (в «Сборнике», II отд., тома XLVII — XLIX и отдельно, три тома); издание закончено четвертым томом (том L «Сборника»), к которому присоединены «Материалы для биографии Александра Александровича Котляревского», А.Н. Пыпина.