Стам начинал карьеру в любительском клубе своего родного города, «ДОС Кампен». В 1992 году он дебютировал в профессиональной команде «Зволле», а в следующем году уже заявил о себе, выступая за «Виллем II» из Тилбурга. После неожиданной победы над лучшим в то время клубом Европы, «Аяксом», Стам привлёк внимание ПСВ и в 1996 году перешёл в эту команду. С ней он выиграл Кубок, чемпионат и два Суперкубка страны, а также звание лучшего футболиста страны. В 1998 году Яп Стам стал самым дорогим защитником и самым дорогим голландским футболистом в истории, когда «Манчестер Юнайтед» заплатил за него 36 млн гульденов (16,7 млн евро). Три года выступления за английский клуб стали самыми успешными в его карьере: он выиграл с командой 3 чемпионата, Кубок, Лигу чемпионов и Межконтинентальный Кубок.
В сезоне 2001—2002 Стам был продан в «Лацио», после того, как некоторые мысли, изложенные в его автобиографии, названной «Лицом к лицу», не понравились тренеру «МЮ», Сэру Алексу Фергюсону. Во время выступлений за «Лацио» Стам был уличён в приёме запрещённого анаболика, нандролона, и был дисквалифицирован на пять месяцев, но после апелляции срок наказания сократили на месяц. После трёх лет в «Лацио», защитник перешёл в титулованный «Милан», но в целом его карьера в Италии оказалась неудачной — ему удалось завоевать лишь один трофей, Кубок Италии 2004 года. 30 января 2006 года он объявил о своём возвращении в Нидерланды. Вопреки ожиданиям он подписал двухлетний контракт не со своим бывшим клубом, ПСВ, а с его главным соперником, «Аяксом». В амстердамском клубе Япа сразу же после его перехода выбрали капитаном команды.
29 октября 2007 года Стам неожиданно объявил о завершении карьеры. Своё решение он мотивировал травмами и тем, что у него пропало желание играть. Свою последнюю игру за «Аякс» Стам провёл 20 октября против клуба «Неймеген», которую не сумел доиграть из-за травмы.
Стам дебютировал в национальной сборной Нидерландов 24 апреля 1996 года в матче против сборной Германии, проигранном голландцами со счётом 1:0. Он принимал участие в чемпионатах Европы 1996, 2000 (3-4 место) и 2004 года, и в чемпионате мира 1998 года (4-ое место). На Евро 2000 он пробил мимо ворот в серии пенальти в полуфинале со сборной Италии, в результате чего Нидерланды проиграли. После Чемпионата Европы 2004 года в Португалии Стам объявил о своём уходе из национальной команды, мотивировав это желаниями сосредоточиться на выступлении за клуб и проводить больше времени с семьёй.