Родился в семье советника канцелярии Коллегии иностранных дел, статского советника Сергея Васильевича Мещерского (1737—1781), из княжеского рода XIII века татарского происхождения (или финского); мать — Анна Ивановна Кушелева. Со стороны отцa был пра-правнуком боярина Артaмона Сергеевича Матвеева, воспитателя Натальи Кирилловны Нарышкиной. Получил домашнее образование.
22 апреля 1797 года поступил на действительную военную службу в полк; 8 сентября 1798 года уволен в отставку с мундиром.
5 декабря 1805 года — камер-юнкер Двора Его императорского величества, определён на службу членом конторы опекунства новороссийских иностранных поселенцев.
С 7 января 1808 года — Херсонский гражданский губернатор.
8 июня 1809 года — действительный статский советник, назначен обер-прокурором 2-го отделения 5-го департамента Правительствующего Сената.
С 17 октября 1817 года — Глава правления училищ (с увольнением от должности обер-прокурора); с 24 ноября того же года — обер-прокурор Святейшего Синода (с оставлением в занимаемых должностях и званиях); 13 февраля 1818 года вступил в должность.
С 21 апреля 1823 года — также член Комиссии духовных училищ (постоянного органа).
22 августа 1826 года получил чин тайного советника. 2 апреля 1833 года уволен от должности обер-прокурора Святейшего Синода и назначен сенатором (с оставлением на прочих должностях).
27 декабря 1843 года получил чин действительного тайного советника.
Скончался в ночь на 1 января (ст. ст.) 1857 года, после продолжительной тяжёлой болезни.
Похоронен под Казанской церковью на Казанском кладбище в Царском Селе; по иным источникам, в Александро-Невской лавре.
Был женат на Екатерине Ивановне, урождённой Чернышёвой. Их сын — писатель Элим Петрович Мещерский (1808—1844).