Сын органиста, выходца из Литвы. Вероятно, происходит из местечка Кубличи Полоцкого воеводства Великого княжества Литовского (ныне — Ушачский район, Витебской области, Белоруссия).
В 1687 году вместе с семьёй отца приезжает в Россию.
В 1701 году Зачислен в гвардию, в Преображенский полк, став денщиком Петра I.
9 июля 1706 года Получил от Петра I в вечное владение остров на реке Яуза близ Немецкой слободы в Москве.
В 1710 году — камер-юнкер, капитан Преображенского полка. Женился на Анне Фёдоровне Хитрово и, получив за ней огромное приданое, сделался одним из богатейших людей своего времени.
В 1711 году участвовал в Прутском походе. В том же году сопровождал Петра в Карлсбад и Торгау на свадьбу царевича Алексея. В июне 1711 года получил звание полковника, 3 августа 1711 года — Генерал-адъютанта.
В 1712 году в числе немногих присутствовал на свадьбе Петра I с Мартой Скавронской. Сопровождал Петра I за границу.
В ноябре 1713 года — послан ко Двору короля Дании и Норвегии с извещением о прибытии Петра I с войском в герцогство Мекленбург.
В 1714 году отправлен в Данию для поддержки аккредитованного там князя В. Л. Долгорукова с целью добиться совместных с Данией действий против Швеции.
В 1718 году на него возложено наблюдение за «скорейшим устройством президентами своих коллегий».
В 1719 году участвовал в работе Аландского конгресса.
В 1720—1721 годах — Российский посланник в Австрии.
24 августа 1721 года Ягужинский выехал для участия в работе Ништадтского конгресса, но по просьбе графа Остермана выборгский комендант И. М. Шувалов на целых два дня задержал его в Выборге, и когда Павел Ягужинский приехал в Ништадт, то мир уже был заключён.
С 22 января 1722 года — генерал-лейтенант.
В период 18 января 1722—1726 года — генерал-прокурор Сената (первый в истории России), боролся с казнокрадством.
В 1723 году — Развёлся с первой женой. Женился вторым браком на Анне Гавриловне Головкиной, дочери канцлера графа Г. И. Головкина.
В мае 1724 года при учреждении для коронации Екатерины I роты кавалергардов, был назначен её командиром с чином капитан-поручика.
11 июля 1724 удостоен ордена Св. Андрея Первозванного. 30 августа 1725 года удостоен ордена Святого благоверного Великого Князя Александра Невского.
С 3 августа 1726 по 1727 год — полномочный министр при польском сейме в Гродно. С 24 октября 1727 года — Генерал-аншеф.
В январе 1730 года участвовал в заговоре «верховников», но, разуверившись в его успехе, 20 января известил обо всём Анну Иоанновну, объяснив ей, что большинство дворян не желают ограничения её власти. 16 января 1730 года был арестован, но вскоре освобождён.
С 4 марта 1730 года — Сенатор. 20 декабря 1730 года — Получил в подчинение богатый Сибирский приказ, из которого должен был получать жалованье «по рангу».
С 31 декабря 1730 года — подполковник Лейб-Гвардии Конного полка.
В период 2 октября 1730 по 1731 год — генерал-прокурор Сената.
19 января 1731 года удостоен титула — графа.
В период 1731 по 19 ноября 1734 года из-за ссоры с Остерманом удалён от двора и отправлен послом в Пруссию. В 1732 году — Лишён должности обер-шталмейстера.
28 апреля 1735 года стал кабинет-министром с возвращением должности обер-шталмейстера. В январе 1736 года заболел подагрой и лихорадкой и в апреле того же года умер. Похоронен в Александро-Невской лавре.
В 1710 году женился на Анне Фёдоровне Хитрово (ум.1733), она не могла похвалиться примерным поведением, что и вынудило Ягужинского, отчасти вследствие настояний Петра I, обратиться в Синод с просьбою о расторжении брака, какое и последовало 21 августа 1723 года; имел сына (умершего в 1724 году) и трёх дочерей:
В ноябре 1723 года женился вторым браком на фрейлине Анне Гавриловне Головкиной (170.—1751), дочери канцлера графа Г.И.Головкина. Имел сына и трёх дочерей.