Родился 23 августа 1910 года в селе Карпиловка ныне Лубенского района Полтавской области.
Образование неполное среднее. Работал в колхозе конюхом, позднее был трактористом, а вскоре возглавил тракторную бригаду. Избирался председателем сельпо.
В Красной Армии с 1941 года. Член ВКП(б)/КПСС. Окончил Саратовское танковое училище, участвовал в Сталинградской битве. Был командиром взвода, парторгом танковой роты. Принимал участие в форсировании Днепра, освобождении Смоленска и Белоруссии.
В ночь на 30 июня 1944 года танковому взводу Павла Рака была поставлена задача ворваться в город Борисов, занятый немецкими войсками, завязать бой и сражаться до подхода основных сил корпуса. Из четырёх танков только экипаж Т-34 в составе командира танка Павла Рака, механика-водителя танка Александра Петряева и стрелка-радиста танка Алексея Данилова смог прорваться через реку Березину в город Борисов Минской области по заминированному мосту. Второй и третий танки старшего лейтенанта Кузнецова и лейтенанта Юнаева были сожжёны ещё до подхода к мосту, а четвёртый танк капитана Селина проскочил по мосту на противоположный берег реки, но был подбит и загорелся, экипаж погиб. Затем немцы взорвали мост через Березину.
В течение 16 часов экипаж сражался на улицах города. Ими было уничтожено много живой силы и техники врага, что способствовало освобождению города 1 июля советскими войсками. Немецкие войска бросили против экипажа несколько танков и самоходные орудия. В неравном бою воины погибли.
Звание Героя Советского Союза посмертно присвоено 24 марта 1945 года. Также этого звания удостоены были и члены экипажа А. А. Петряев и А. И. Данилов.
На правом берегу реки Березина в Борисове установлен монумент — легендарный танк ИС-2, памятник экипажу П. Рака.
Именем Павла Рака названы школа и одна из улиц города Борисов. В его родном селе Карпиловка установлена мемориальная доска.
Приказом Министра обороны СССР Павел Николаевич Рак навечно зачислен в списки 5-й роты Н-ского гвардейского танкового полка.
Отец Николай Степанович — руководитель колхоза, член КПСС. С началом Великой Отечественной войны оставлен в селе для организации подполья. Погиб.
Мать Меланья Лукьяновна — колхозница, участница первого украинского слёта передовиков.