Александр Петрович родился в семье Петра Александровича (1769/1770 — 1844) и Марии Алексеевны, урождённой Голицыной (1772 — 1826). Рано начал военную службу, 16-и лет вступив юнкером в лейб-гвардии Артиллерийскую бригаду; в 1824—1826 годы участвовал в походах с экспедицией по обозрению Каспийского и Азовского морей и истреблению морских разбойников. По возвращении из экспедиции, поступил в Коллегию иностранных дел и был причислен к посольству в Париже. По объявлении в 1828 году войны Оттоманской империи, снова поступил на военную службу в тот же Кавалергардский полк. В 1830 году получил придворное звание камергера и назначение первым секретарём русской миссии в Греции; назначение не устроило его, и он перешёл в Министерство внутренних дел.
С декабря 1837 года — военный губернатор в Одессе в чине генерал-майора, с управлением и гражданской частью. В феврале 1840 года, вследствие конфликта с Новороссийским генерал-губернатором князем Михаилом Воронцовым, вышел в отставку и уехал за границу.
Возвратился на службу в мае 1855 года, во время крымской войны, приняв должность начальника Нижегородского ополчения. С декабря 1856 года — генерал-лейтенант.
С 20 сентября 1856 года до 28 февраля 1862 — обер-прокурор Святейшего Синода; затем до конца жизни член Государственного совета. Деятельность его как обер-прокурора встречала одобрение священноначалия Российской Церкви, в частности митрополита Петербургского Григория (Постникова); отличался личной религиозностью. Поддерживал переписку со старцем Оптиной пустыни Амвросием (Гренковым), имел намерение поселиться в Иоанно-Предтеченском скиту.
Был женат на Анне Георгиевне, урождённой княжне Грузинской (1798 — 1889). Брак бездетен.
Был дружен с известным ржевским проповедником Матвеем Александровичем Константиновским, с которым познакомил Н. В. Гоголя, жившем у него в доме (№7 на Никитском бульваре), где писатель и умер.
Скончался на обратном пути из Иерусалима в Женеве; исповедовался перед смертью иеромонаху Клименту (Зедергольму), которому был крестным отцом.