Сын камер-лакея. С ноября 1822 года учился в архитектурной школе Экспедиции кремлёвского строения с чином копииста на своё содержание. В марте 1827 года был произведён в канцеляриста. После окончания в 1832 году Московского дворцового архитектурного училища (МДАУ) со званием архитектора-помощника 3-го класса, служил в Московской дворцовой конторе. В 1836 году Герасимов снимал рисунки древних архитектурных деталей в Измайлове. В 1837 году быд награждён бриллиантовым перстнем.
В 1838—1849 годах под руководством К. А. Тона участвовал в строительстве Большого Кремлёвского дворца. За строительство дворца получил чин колежского секретаря и 400 рублей ассигнациями. В 1847 году был утвержден в звании архитектора. После окончания работ в Большом Кремлевском дворце в 1849 году архитектор получил чин коллежского асессора, 1200 рублей серебром и золотую медаль на голубой ленте. В сентябре 1851 года П. А. Герасимову был пожалован орден Святой Анны 3-й степени.
В 1852—1855 годах в качестве помощника Н. И. Чичагова участвовал в перестройке здания старой Оружейной палаты. C 1849 по 1865 год преподавал в МДАУ перспективу и черчение. В октябре 1855 года был награждён орденом Святого Станислава 3-й степени, а в 1859 году тем-же орденом 2-й степени. В 1859—1865 годах являлся директором МДАУ. С 1866 года преподавал архитектуру на архитектурном отделении Московского училища живописи, ваяния и зодчества. В 1868 году П. А. Герасимов стал начальником чертежной Московской Дворцовой конторы. В 1867 году стал одним из членов-учредителей Московского архитектурного общества (МАО), а в год своей смерти стал председателем Общества.
Скончался 20 декабря 1869 года в Пскове по дороге в отпуск за границу. Похоронен в Москве на Ваганьковском кладбище.