Александр Волков родился в семье рабочего. Вся трудовая жизнь его отца, Александра Семёновича, была связана с Брянским машиностроительным заводом, где он проработал бригадиром и мастером сорок четыре года. Мать, Александра Кузьминична, родом из села Высокое Брянской области. В семье Волковых было семь детей.
В 1970 году Волков окончил Брянский строительный техникум по специальности «промышленное и гражданское строительство» и получил направление в город Глазов, в строительное управление Чепецкого механического завода (Удмуртская АССР). На заводе в то время развернулась большая работа — строительство корпуса, где должно было быть организовано крупнейшее в Европе и мире производство циркония для атомных электростанций. Волкова назначают мастером, под его началом было несколько рабочих бригад.
Без отрыва от производства он окончил Пермский политехнический институт. В 1986 году возглавил Глазовский горисполком. С 1989 года работает в Ижевске: сначала первым заместителем председателя Госплана Удмуртии, затем председателем Госкомитета по архитектуре и строительству, одновременно являясь заместителем председателя Совета Министров Удмуртии.
С 1993 года — Председатель Совета Министров Удмуртской Республики, депутат Совета Федерации Федерального Собрания России. В 1995 — избран Председателем Государственного Совета Удмуртии, а в 2000 и 2004 годах — Президентом Удмуртии. В феврале 2009 года А. А. Волков был назначен на очередной срок Госсоветом Удмуртской Республики по предложению Президента Российской Федерации Дмитрия Медведева.
В своей политической карьере сменил несколько партий, но остановился на Единой России, после её победы в выборах в Государственную Думу РФ.
Женат. Имеет двоих детей. По национальности — русский.