Происходит из семьи польских евреев, поселившихся в Смоленске и перешедших в православие после взятия города русскими (1654).
Начал службу в 1691 году в том же посольском приказе, где служил и его отец, Павел Филиппович Шафиров (1648—-1706), переводчиком. Впервые выдвинул его, дав титул тайного секретаря (1704), Ф. А. Головин, преемник которого Г. И. Головкин переименовал его в вице-канцлера. В этом звании он в основном и управлял посольским приказом. Сопровождая Петра Великого во время его путешествий и походов, Шафиров принимал участие в заключении договора с польским королём Августом II (1701) и с послами седмиградского князя Ракоци. В 1711 году Шафиров заключил с турками Прутский мир и сам вместе с графом M.Б. Шереметевым остался у них заложником.
По возвращении в 1714 году в Россию заключил договоры: 1) в 1715 году с Данией, о взаимном содействии против шведов; 2) в 1716 году, относительно бракосочетания царевны Екатерины Иоанновны с мекленбург-шверинским герцогом Карлом-Леопольдом и 3) в 1717 году, с Пруссией и Францией, о сохранении мира в Европе. Около 1716 года Шафиров, по поручению Петра Великого, написал знаменитое «Рассуждение о причинах войны», которое было дважды напечатано (в 1716 и в 1722 годах) и в котором борьба со шведским королём была представлена как необходимость, вызванная существенными потребностями государства. В «заключении» к нему Пётр I проводил мысль о необходимости довести дело до конца и не мириться, прежде чем не обеспечено будет обладание Балтийским морем. Шафиров написал около этого времени и «Дедикацию, или Приношение царевичу Петру Петровичу о премудрых, храбрых и великодушных делах его величества государя Петра I».
С 1701 года до 1722 года руководил российской почтой.
В 1719 году Шафиров был награждён орденом Св. Андрея Первозванного.
В 1723 году, за известное «дело Шафирова со Скорняковым-Писаревым», Шафиров был лишён особой комиссией из 10 сенаторов чинов, титула и имения и приговорен к смертной казни; последнюю Пётр I заменил ссылкой в Сибирь, но на пути туда позволил ему остановиться «на жительство» в Нижнем Новгороде «под крепким караулом», где ему со всей семьей отпускалось на содержание в день 33 коп. Императрица Екатерина I, немедленно по восшествии на престол, возвратила Шафирова из ссылки, вернула ему все отнятое, сделала президентом коммерц-коллегии и поручила составление истории Петра Великого. В 1730 году он ездил, в качестве полномочного министра, в Гилянь, где заключил торговый и мирный трактат с персидским шахом; в 1733 году снова сделан сенатором; в 1734 году участвовал с графом Остерманом в заключении торгового трактата с Англией; в 1737 году участвовал в заключении Немировского трактата.
Сын его Исая Петрович Шафиров (1699—1756), обучавшийся за границей, служил сначала в герольдмейстерской конторе, потом переводчиком при отце, впоследствии советником в вотчинной и коммерц-коллегиях (до 1740 г.). За пристрастие к спиртным напиткам и карточной игре содержался, по повелению императрицы Елизаветы Петровны, несколько лет в московском Донском монастыре, где, вероятно, и умер.