Пётр Дементьев родился в Петербурге в большой рабочей семье, из 11 братьев и сестер Дементьевых выжили пятеро, сам Пётр перенёс тяжелейшую скарлатину. Футболом начал заниматься с детства, в 13 лет дебютировал в чемпионате Ленинграда за взрослую команду «Меркур», в первом же матче покорив зрителей. Обладая небольшим ростом (163 см), был мастером дриблинга, обладал большой скоростью, колоссальной работоспособностью и тонким чувством игровой ситуации.
В 19 лет Дементьев уже выступал за сборную СССР, провёл за неё 6 неофициальных матчей, забил 2 гола. По свидетельствам современников, многие зрители специально ходили на матчи «посмотреть на Пеку».
С 1932 года выступал за ленинградское «Динамо». В 1937 году участвовал в матчах против сборной Басконии. В том же году в матче против динамовцев Москвы получил тяжёлые переломы руки и ноги. На лечение и восстановление ушёл целый год. В 1940 году был вынужден уйти из команды из-за конфликта с тренером Михаилом Бутусовым.
Дементьев перешёл в «Зенит» и в чемпионате 1941 года успел стать лидером команды, но после начала Великой Отечественной войны был вместе с клубом эвакуирован в Казань, где работал на лесозаготовках, вытачивал снаряды. Был награжден медалями «За трудовую доблесть» и «За доблестный труд в годы Великой Отечественной войны».
В списке 33 лучших футболистов СССР — № 2 (1933).
После окончания войны играл за московские «Крылья Советов» и киевское «Динамо», В 1949 году вернулся в ленинградское «Динамо», где стал капитаном и в 1952 году закончил карьеру. Работал тренером заводских команд, затем ушел на пенсию по инвалидности. В 1978 году переехал в Москву, где жил его младший брат Николай, выступавший за «Динамо» и «Спартак».
Скончался 16 октября 1998 года, Похоронен в Москве, на Востряковском кладбище, на аллее спортсменов.
В 2002 году у стадиона «Петровский» был установлен памятник Петру Дементьеву, впоследствии разрушившийся.
В Санкт-Петербурге с 2008 года проводится юношеский турнир памяти Петра Дементьева.