Алексей Сапунов родился в купеческой семье в местечке Усвяты Велижского уезда Витебской губернии. Образование получил в уездном училище, затем с 1862 по 1869 год учился в Александровской гимназии в Витебске. Затем поступил на историко-филологический факультет Санкт-Петербургского университета, окончил который в 1873 году. Он был оставлен на кафедре, но в этом же году был вынужден вернуться в Витебск из-за болезни глаз и необходимости отрабатывать министерскую стипендию. Там он стал преподавать латинский и греческий язык в Александровской гимназии. Печататься Сапунов начал с 1881 года, в котором был опубликован его очерк «Исторические сведения про Витебский замок» в «Памятной книжке Витебской губернии на 1881 год». С этого времени он начал публиковать свои работы по истории и краеведению. В 1892 году в Витебске по инициативе Евдокима Романова и с благословения архиепископа Полоцкого и Витебского Антонина было основано церковно-археологическое древлехранилище, организация работы которого была поручена Сапунову совместно с Василием Говорским. Сапунов преподавал до 1896 года, а затем, в 1897 году, служил в Москве помощником инспектора в университете до 1901 года. В этом году он устроился секретарём губернского статистического комитета в Витебске, где работал до 1917 года. В 1907 году был избран депутатом в III Государственную думу от Витебской губернии. Там он вошёл в правую фракцию «Союза 17 октября».
В 1909 году Сапунов принял участие в создании и работе Витебской учёной археографической комиссии, церковно-археологического музея. Преподавал в Витебском отделении Московского археологического института (1911—1924) и в Витебском институте народного образования. С 1913 года профессор.
Сапунов являлся почётным членом многих научных обществ и комиссий в Витебске, Москве, Петербурге, Могилёве, был почётным гражданином города Велиж. Награждён орденами св. Станислава III и II степени и св. Анны III и II степени, а также золотой Уваровской медалью Российской академии наук.
Скончался 2 октября 1924 года в Витебске, похоронен на Тройчанском кладбище. Его именем в 1987 г. названа улица в Витебске.