Андрей Дмитриевич Байбатков родился в Малороссии в селе Зметаево в 1737 году.
Получил образвание в в Московской духовной академии, затем учился на философском факультете в Московском университете.
С 1772 года преподавал риторику в духовной академии.
В 1775 году принял монашество и получил имя Аполлос.
В 1788 году рукоположен во епископа Орловского и Севского (5 июня 1788 — 26 октября 1798), а в 1798 году был перемещен в город Архангельск, где возглавил Архангельскую и Холмогорскую епархию (26 октября 1798 — 14 мая 1801).
Помимо этого был членом Российской академии; написал несколько трудов по теории словесности и русского языка, из которых наиболее заметный «Правила пиитическия» (вышло 10 изданий с 1774 по 1826 год).
Аполлос (Байбаков) скончался 14 мая 1801 года.
Кроме проповедей и переводов, написал несколько ценных богословских трудов:
Неизданными остались:
Святейший Синод, решил, что в этих трудах были «в некоторых вещах объяснения писаны бездоказательно с непристойными и сумнительными выражениями».