Родился в 1797 году, в Белицке Могилёвской губернии, сын Белицкого городничего, отставного секунд-майора Белорусского гусарского полка, происходил из дворянского рода Лифляндской и Могилёвской губерний и имевшего саксонские корни.
Образование получил в 1-м кадетском корпусе и 27 мая 1812 года выпущен прапорщиком в Санкт-Петербургский гренадерский полк.
В Отечаственную войну 1812 года Мердер находился в сражениях с французами при Динабурге и Полоцке. В Заграничной кампании 1813—1814 годов он был в делах при Дрездене, Кульме и Лейпциге.
В 1817 году произведён в майоры (по другим данным чин капитана он получил лишь в 1820 году), в 1821 году переведён в лейб-гвардии Семёновский полк, в 1826 году получил чин полковника с переводом в лейб-гвардии Измайловский полк.
С 1827 года Мердер состоял в Отдельном корпусе жандармов. 3 марта 1835 года произведён в генерал-майоры с назначением состоять по армии и в том же году назначен окружным генералом 6-го округа Отдельного корпуса внутренней стражи.
В 1847 году Мердер был переведён в Отдельный Кавказский корпус, где был назначен командиром 1-й бригады Кавказских линейных батальонов. На Кавказе Мердер находился до середины 1850-х годов и за это время неоднократно принимал участие в походах против горцев.
Произведённый 27 марта 1855 года в генерал-лейтенанты Мердер 15 июня 1856 года был назначен сенатором. По 1 января 1866 года присутствовал в в 1-м отделении 6-го департамена, а затем в 8-м департаменте Правительствующего сената.
Скончался Мердер 24 апреля 1873 года в Москве, похоронен на кладбище при Покровской епархиальной общение сестёр милосердия.
Среди прочих наград Мердер имел ордена:
Его брат Карл Карлович Мердер был генерал-майором и воспитателем наследника цесаревича Александра Николаевича. Командир 4-го гренадерского Несвижского полка полковник Павел Карлович Мердер-младший приходился Павлу Карловичу племянником.