Окончил среднюю школу в г. Саранске Мордовской АССР с серебряной медалью.
В 1966—1969 гг. служил в Военно-морском флоте СССР. В 1968—1969 участвовал в боевых действиях в Египте, был ранен. В 1974 году окончил Мордовский государственный университет им. Огарёва по специальности «Промышленная электроника».
Работал на инженерных должностях на заводах «Кузтекстильмаш» (г. Кузнецк Пензенской области), «Электровыпрямитель» и «Медицинских препаратов» (г. Саранск), на заводе «Сокол» (Ленинград).
Проживает в посёлке Ульяновка Тосненского района Ленинградской области. 28 июля 2007 года возглавил движение «17 марта», созданное с целью реализовать итоги референдума 17 марта 1991 года о сохранении СССР.
Стал известным в 90-х годах после того, как некоторые из его произведений прозвучали в телевизионной программе «600 секунд», начали выпускаться на кассетах и компакт-дисках, разошедшихся по всему бывшему Советскому Союзу и за его границы. В репертуаре более трёх сотен песен преимущественно патриотической и оппозиционной направленности. Эти песни — раздумья о судьбе России, о жизни её народа. Есть также лирические и сатирические песни. Бо?льшую часть текстов написал сам. Выпущено 42 альбома. Из них один состоит из любовной лирики, один — из морской лирики, один — из природной и религиозной лирики, и 28 — из песен на темы коммунизма, национализма и национал-коммунизма. Большинство альбомов записаны под гитару, несколько — под синтезатор.
Харчиков внесён в трёхтомный словарь «Русская литература XX века — прозаики, поэты, драматурги», изданный Институтом русской литературы Российской академии наук в 2005 году. Харчиков упоминается в «Энциклопедии русского народа», составленной под общей редакцией О. Платонова и изданной в 2003 году.
Политолог А. Митрофанова издала книгу «Песни русского сопротивления», в которой проведён анализ творчества А. Харчикова и сделан вывод о важности его поэзии как феномена русской культуры нашего времени. Харчикову как поэту, композитору и исполнителю посвящены брошюра профессора, доктора философских наук Л. И. Чернышовой «Есть ещё герои русского народа, генералы духа есть!» (2005 г.) и книга доктора политических наук А. В. Митрофановой «Песни настоящих мужчин» (2008 г.).
По мнению левых публицистов В. Шапинова и О. Торбасова, «Эти песни (Харчикова) — отражение убогости и ограниченности национал-патриотического движения, они вобрали в себя всю косность, нелепость мертворожденного движения». Авторы отмечают, что «прежде всего, песни А. Харчикова отличает зоологический антисемитизм». По их мнению «самое отвратительное в Харчикове это даже не его средневековые взгляды, а безграничная пошлость и бездарность его песен». Возражая им, сторонник Харчикова В. В. Виноградов отмечает, что Харчиков — русский бард, народный трибун и патриот.
В январе 2010 г. Железнодорожный суд Барнаула (Алтайский край) признал стихотворение А. Харчикова «Готовьте списки!», опубликованное в алтайской газете «Голос труда», экстремистским. Согласно выводам суда, «рассматриваемые печатные материалы влекут за собой возбуждение социальной, национальной розни и являются способом, побуждающим к совершению экстремистских деяний, содержат призывы к совершению преступлений по мотивам политической, идеологической, расовой, национальной ненависти или вражды».
В марте 2012 г. эксперты признали экстремистской песню Александра Харчикова "Жиды хлебушка не сеют". Прокуратура направила материалы экспертизы в суд, который согласился с заключением специалистов и включил произведение в федеральный список экстремистских материалов.
Обнаружена несостыковка дат рождения Харчикова. В своей автобиографии он пишет: «Я, Харчиков Александр Анатольевич, родился 21 января 1949 года в селе Кеньша…». Также дата 21 января указана и в официальных газетах , и на сайтах избирательных комиссий . Однако на его неофициальных сайтах везде указана дата рождения «21 декабря» . По утверждению противников, это связано с тем, что ради того, чтобы все ассоциировали личность Харчикова с личностью Сталина бард присвоил себе ложную дату рождения — в один день со Сталиным. Сам Харчиков объясняет эту путаницу так: «21 января официальная дата. 21 декабря — фактическая. Бывает место прописки, а бывает место жительства. По поводу того, что так получилось, — вопросы к моему покойному отцу».
9 мая 2011 года видеоклип с песней Харчикова «Ливийскому народу!» несколько раз был показан по ливийскому телевидению.
В сентябре 2011 года, "соответствующие структуры" заблокировали домен сайта А. А. Харчикова hapchikov.ru, но спустя несколько дней сайт Александра Харчикова вновь стал доступен теперь по новому домену harchikov.com
Также, параллельно с этим, был закрыт и сайт "Русского барда и патриота Александра Харчикова" harchikov.clan.su Администрация поставщика услуг - ucoz.ru объяснила закрытие сайта так: "Работа Вашего сайта была приостановлена в ответ на соответствующее требование правоохранительных органов".