Образование высшее. В 1973 году окончил Ленинградский Военно-механический институт, в 1975 году — Высшую школу КГБ при Совете Министров СССР. С 1975 по 2001 год служил в органах государственной безопасности.
В 1983 — 85 годах участвовал в войне в Афганистане, в качестве сотрудника представительства КГБ СССР при органах безопасности Демократической Республики Афганистан в провинции Герат.
В 1994 году был назначен первым заместителем начальника управления ФСБ по Санкт-Петербургу и Ленинградской области. С 28 августа по октябрь 1998 года Александр Григорьев служил руководителем департамента экономической безопасности ФСБ России.
1998 — 2001 — заместитель директора ФСБ Российской Федерации, начальник управления ФСБ по г. Санкт-Петербургу и Ленинградской области, член коллегии ФСБ России. Утверждают, что "именно Григорьев убедил Алексия Второго выступить на Западе с заверениями в том, что следующий Президент России после Б. Ельцина продолжит демократический путь развития страны".
С 19 июля 2001 года — генеральный директор Российского агентства по государственным резервам.
Александр Андреевич имел воинское звание генерал-полковник ФСБ, был кандидатом экономических наук.
Скоропостижно скончался 10 декабря 2008 года в собственной квартире в Москве.