Начал военную службу в 1736 году солдатом в лейб-гвардии Измайловском полку, в том же году был произведён в офицеры и отправлен к армии, действовавшей против крымских татар. С ней он участвовал во взятии Перекопа и Бахчисарая; затем служил под начальством фельдмаршала Ласси, действовавшего против шведов, и к началу Семилетней войны был уже генерал-майором. Особенно отличился в боях при Гросс-Егерсдорфе и Цорндорфе, а в 1759 году был главным виновником победы при Кунерсдорфе, за что награждён чином генерал-поручика. В 1760 году участвовал, вместе с Чернышёвым, Тотлебеном и Ласси, в занятии Берлина (где отличился, разгромив совместно с казаками Краснощёкова и Туроверова, арьергард корпуса фон Гюльзена), управлял Восточной Пруссией в звании кёнигсбергского генерал-губернатора и начальствовал русскими сухопутными и морскими силами в Померании и Голштинии.
По вступлении на престол Екатерины II (1762) П. И. Панин пожалован в генерал-аншефы и назначен сенатором и членом совета; в 1767 году возведён в графское достоинство. В 1769 году ему вверено было начальство над 2-й армией, действовавшей против турок. Разбив неприятеля около Бендер, он расположил свой войска на зимних квартирах между Бугом и Азовским морем, чем воспрепятствовал крымским татарам производить набеги на южные пределы России. В 1770 году им покорены были Бендеры. Во время осады этой крепости он успел переговорами склонить татар буджакских, белгородских и едисанских признать над собой власть России; затем содействовал ускорению сдачи крепости Аккерман.
За эти подвиги Панин был награждён орденом св. Георгия I степени, но вместе с тем известие о победе было принято императрицей довольно сухо, так как она была недовольна большими потерями и разрушением Бендер. Чувствуя себя обиженным, а также вследствие усилившейся болезни, граф Панин в том же году вышел в отставку. Поселившись в Москве, Панин начал резко выражать своё неудовольствие, что дошло до сведения императрицы, которая, считая его «первым врагом», «себе персональным оскорбителем» и «дерзким болтуном», повелела учредить за ним надзор.
Крестьянская война 1773—1775 снова вызвала Панина на военное поприще: благодаря стараниям Потёмкина и Никиты Ивановича Панина, императрица после смерти Бибикова, в 1774 году поручила Панину начальство над всеми войсками против Пугачёва и над губерниями Казанской, Оренбургской и Нижегородской. Вскоре после назначения армия Пугачёва была разбита, а сам он пленён. Панин обратил особенное внимание на устройство разоренных губерний, на ослабление возникшего голода и вообще на беспорядки в управлении: неспособность и бездеятельность администрации, лихоимство и пр. В 1775 году Панин получил увольнение.
П. И. Панин выставляется современниками как человек тщеславный и властолюбивый. Он первый ввёл в нашу армию егерей под названием стрелков и легкую конную артиллерию; он же написал «полковничью инструкцию», а при осаде Бендер впервые с успехом употребил усиленный горн.