Пер Мертезакер начал свою футбольную карьеру в клубе «Паттенсен», из которого в 1995 году в возрасте 11 лет перешёл в «Ганновер 96». Свой первый матч в Бундеслиге сыграл в ноябре 2003 года в возрасте 19 лет и одного месяца против «Кельна», первый тайм провёл довольно посредственно и был заменен в перерыве. Правда, в то время он играл на позиции не защитника, а опорного полузащитника.
Подписав профессиональный договор, Мертезакер, однако, четыре месяца был вынужден ждать следующего вызова в Бундеслигу. При тренере Эдварде Линене развивался как игрок основного состава и центра обороны «Ганновера». Уже в сезоне 2004/05 стал одним из лучших игроков команды.
8 августа 2006 года подписал контракт с бременским «Вердером», рассчитанный до 2010 года, который был продлен до 2012 года.
Уже вскоре после прыжка из молодежки «Ганновера» в основную команду последовал ещё один карьерный шаг: приглашение в национальную сборную. Свою первую игру в составе Бундесманншафт Мертезакер провёл 9 октября 2004 года против сборной Ирана. Впервые сыграл на чемпионате мира 9 июня 2006 года в Мюнхене против команды Коста-Рики. На том Чемпионате провёл все игры вплоть до полуфинала в основном составе, не получив ни одной жёлтой карточки, за что его прозвали "Господин Чистый".
30 августа 2011 года Мертезакер перешёл в лондонский «Арсенал» за 10 миллионов фунтов, подписав трехлетний контракт.
Мертезакер является игроком сборной Германии, первый матч за которую провёл 9 октября 2004 года против сборной Ирана. Бронзовый медалист чемпионата мира 2006 и 2010 годов.
Пер встречается с гандболисткой Ульрике Штанге с 2008 года. У пары в пасхальное воскресенье 24 апреля 2011 года родился сын Пауль.