Поль-Анри Матьё начал играть в теннис в три с половиной года со старшим братом Пьер-Ивом (сейчас теннисный тренер). В 1996 году Поль-Анри выиграл сначала турнир Les Petits As в Тарбе, неофициальный чемпионат мира в возрастной категории до 14 лет, а потом престижный юниорский турнир Orange Bowl во Флориде в той же возрастной группе. В 1997-2000 году тренировался в академии Ника Боллетьери в Брейдентоне. В 2000 году выиграл Открытый чемпионат Франции среди юношей, победив в финале Томми Робредо. В июле 2001 года в Схевенингене дошёл до первого в карьере финала турнира уровня ATP Challenger.
В 2002 году Матьё дошёл до четвёртого круга Открытого чемпионата Франции, осенью выиграл два турнира Ассоциации теннисистов-профессионалов (АТР) подряд, первым из которых стал Кубок Кремля, в результате продвинулся в рейтинге АТР на сто мест, вошёл в число 50 сильнейших теннисистов мира и был удостоен Награды ATP в категории «Лучший новичок». В конце года он провёл две игры за сборную Франции в финальном матче Кубка Дэвиса со сборной России, но уступил в обеих; в матче с Михаилом Южным Матьё вёл 2–0 по сетам, но не смог довести матч до победы.
К середине 2004 года Матьё выбывает из первой сотни рейтинга АТР, возвращается в неё после победы на «челленджере» в Сеговии (Испания), но к концу года снова её покидает. 2005 год становится для него более удачным: он доходит до четвёртого круга турнира Мастерс в Индиан-Уэллс, потом до полуфинала турнира Мастерс в Монреале (победил в первом круге пятую ракетку мира Энди Роддика) и заканчивает сезон в середине первой сотни рейтинга. В 2006 году он повторяет своё лучшее достижение в турнирах Большого шлема, выйдя в четвёртый круг Открытого чемпионата Австралии.
В 2007 году у Матьё открылось «второе дыхание». За сезон он выиграл два турнира АТР и ещё раз сыграл в финале, по два раза победил игроков первой десятки рейтинга Давыденко и Гонсалеса (первого в том числе в матче Кубка Дэвиса) и закончил сезон на двадцать пятой позиции. После выхода в четвёртый круг Открытого чемпионата Австралии и турнира Мастерс в Майами, в апреле 2008 года достиг 12 места в рейтинге, высшего в карьере. На олимпийском турнире в Пекине дошёл до четвертьфинала, победив во втором круге пятую ракетку мира Давыденко. В парном разряде Матьё выигрывает единственный в карьере турнир АТР в Бухаресте. В 2009 году он впервые в карьере вышел в финал турнира класса АТР 500 в Гамбурге, а через год повторил это достижение уже в парном разряде, выступая с Жереми Шарди. В 2010 году он также побывал в четвёртом круге на Уимблдоне и в третьем круге на Открытом чемпионате США в одиночном разряде, но полностью пропустил следующий сезон из-за незалеченной травмы колена.