Родился в семье врача 5-го пехотного Киевского полка. После смерти отца П. П. Смирнов давал частные уроки, чтобы прокормить семью.
Окончил историко-филологический факультет Киевского университета (1907; получил серебряную медаль за работу «Орловский уезд в конце XVI в. по писцовой книге 1594-5 гг.»). Ученик профессора М. В. Довнар-Запольского, был оставлен при университете для подготовки к профессорскому званию. Магистр русской истории (1919; тема диссертации: «Города Московского государства в первой половине XVII века»). Доктор исторических наук (1943; тема диссертации: «Посадские люди и их классовая борьба до середины XVII в.»).
С 1912 — приват-доцент, в 1919—1923 — профессор Киевского университета. Заведовал нумизматическим кабинетом и археологическим музеем. В 1923 был арестован по обвинению в сотрудничестве с польской разведкой (дело «Центра действия»). В 1924 временно освобождён, но затем вновь арестован и приговорён к 10 годам лишения свободы. Приговор по делу «Центра действия» вызвал протесты международной общественности, в том числе премьер-министра Франции Раймона Пуанкаре. Вскоре срок заключения Смирнова был сокращён вдвое. В 1927 был досрочно освобождён (ему зачли дни, отработанные сверх нормы).
В 1927—1934 — профессор Среднеазиатского университета в Ташкенте, читал лекции по русской истории на восточном факультете и историю экономического развития (хозяйственного быта) Запада и России на факультете хозяйства и права. В течение пяти лет был директором Фундаментальной библиотеки университета. В 1931 был вновь арестован, обвинён в контрреволюционной деятельности, но через восемь месяцев освобождён из-за отсутствия доказательств.
В 1937 переехал в Москву, где сотрудничал с Институтом истории АН СССР. В 1938—1947 — профессор Историко-архивного института в Москве. Был блестящим лектором, стремившемся поделиться со студенческой аудиторией своими знаниями. В начале Великой Отечественной войны, наряду с преподаванием в институте, читал лекции на призывных пунктах.
В октябре 1941 в условиях паники, вызванной слухами о прорыве немецких войск к Москве, руководство Историко-архивного института бежало из столицы. Было принято решение о закрытии института. Однако профессор П. П. Смирнов, которого перед войной относили к числу «неблагонадёжных» из-за прежней судимости, стал инициатором подготовки письма в НКВД СССР (в ведении которого тогда находилась архивная сфера) с предложением возобновить работу института. 14 ноября 1941 П. П. Смирнов был назначен исполняющим обязанности директора института, который в том же месяце возобновил свою деятельность. Руководил институтом в тот период, когда Москва стала прифронтовым городом, в институте часто отключали электроэнергию, не работало отопление. По воспоминаниям преподавателя Историко-архивного института Нины Александровны Ковальчук,
Беспартийный директор в Советском Союзе не мог долго руководить учебным заведением. Поэтому уже 12 мая 1942 П. П. Смирнов сложил свои полномочия, оставшись профессором до своей кончины. В 1942 он, одновременно, возглавил кафедру истории СССР Московского городского педагогического института.
Исследовал историю русского города XVII века. В 1917 и 1919 опубликованы две части капитальной работы «Города Московского государства в первой половине XVII века» (выпуск 1 — «Формы землевладения», выпуск 2 — «Количество и движение населения»). После освобождения из тюрьмы в 1927 в письме историку С. Б. Веселовскому отмечал, что «написал на досуге» несколько статей и книгу «Волжский торговый путь в древние русы» (очерк по русской истории VIII—IX веков, основанный на данных археологии, русских, скандинавских и восточных источниках). В следующем году эта книга была опубликована на украинском языке. Работая в Средней Азии, изучал историю этого региона.
Его последней значительной работой стал классический труд «Посадские люди и их классовая борьба до середины XVII века», который был защищён в качестве диссертации на соискание учёной степени доктора исторических наук.
В воспоминаниях Н. А. Ковальчук содержится такой портрет профессора Смирнова, относящийся к периоду Великой Отечественной войны:
Собрал большую библиотеку. Через год после кончины профессора вдова передала в библиотеку Историко-архивного института около двух тысяч книг по истории из его личного собрания.