Учился в Литературном институте им. А. М. Горького (1935—1939), одновременно работая заместителем редактора газеты «Красный текстильщик» (1935—1938), затем инструктором по печати Бауманского райкома КПСС (1938—1939).
Начал публиковаться с 1930 года. Автор около 30 книг. Первая книга — «Рассказы о матери и сыне» (1941). Наиболее значительное произведения — исторический роман «Петербургский изгнанник», посвященный сибирской ссылке А. Н. Радищева. Автор романа «Гарнизон в тайге» (1959), повествующего о службе в армии в 1930-е годы, исторической повести «Азиат» (1984) — о делегате второго съезда партии Г. М. Мишиневе.
Награждён орденом «Знак Почёта» (1969). Умер в 1989 году. Похоронен на Успенском кладбище Челябинска.
На доме в Челябинске, где проживал А. А. Шмаков (пр. Ленина, 51), 20 июня 1993 установлена мемориальная доска (скульптор В. А. Авакян, арх. Н. В. Ощепков). С 1991 в ЧГПУ по инициативе В. П. Рожкова проводятся ежегодные Шмаковские литературно-краеведческие чтения.