Джон Босман начал свою карьеру в детской футбольной команде «Рода '23», позже Джон также выступал за клуб РКАВИК. В 1983 году 18-летний Босман перешёл в амстердамский «Аякс». Он дебютировал в команде 20 ноября 1983 года в матче против «Роды», матч завершился в пользу «Аякса» 5:2. Всего за пять сезонов Босман провёл 165 матчей за «Аякс» во всех соревнований и забил 105 мячей. В чемпионатах Нидерландов Джон забил 77 мячей, по этому показателю он входит во второй десяток списка бомбардиров «Аякса» за всю историю клуба. После ухода Марко ван Бастена в итальянский «Милан» именно Босман стал лучшим бомбардиром «Аякса», в сезоне 1987/1988 Джон забил 25 мячей в 33 матчах. Босман принимал так же участие в финальном матче кубка обладателей кубка УЕФА против бельгийского «Мехелена». «Мехелен» под руководством бывшего тренера «Аякса» Ада де Моса победил со счётом 1:0. По окончании сезона Босман перешёл именно в «Мехелен».
Перейдя в «Мехелен», Босман в первом же сезоне в 30 матчах отметился 18 голами и стал чемпионом Бельгии сезона 1988/1989, в чемпионате «Мехелен» на 5 очков опередил «Андерлехт». В списке бомбардиров сезона 1988/1989 Босман занял четвёртое место. В своём последнем сезоне за «Мехелен» Джон забил 16 мячей в 31 матче (третий показатель в чемпионате Бельгии сезона 1989/1990), в чемпионате же «Мехелен» занял третье место после чемпиона «Брюгге» и занявшего второе место «Андерлехта». С «Мехеленом» Босман участвовал в финале Суперкубка Европы против нидерландского ПСВ, «Мехелен» победил со счётом 3:1. В еврокубках в сезоне 1988/89 «Мехелен» участвовал в розыгрыше Кубка обладателей Кубков (который был выигран ими в предшествующем сезоне, 1987/88), команда дошла до полуфинала, где уступила итальянской «Сампдории» только по разнице забитых и пропущенных мячей: в первом матче «Мехелен» дома победил 2:1, но на выезде бельгийцы уступили 3:0.
В 1990 году Джон вернулся в Нидерланды и стал игроком ПСВ из Эйндховена. В «ПСВ» Босман провёл один сезон и стал чемпионом Нидерландов 1990/1991, в сезоне Джон провёл 30 матчей и забил 11 мячей. В 1991 году Джон перешёл в бельгийский «Андерлехт». В «Андерлехте» Джон провёл пять сезонов, за которые провёл 156 матчей и забил 71 мяч. С «Андерлехтом» Джон выиграл три титула чемпиона Бельгии (1993, 1994, 1995) и один кубок Бельгии (1994).
Покинув «Андерлехт» в 1996 году, Джон решил окончательно вернуться в Нидерланды и подписал контракт с «Твенте» из Энсхеде. В 31 год Босман снова доказал, что является одним из лучших нападающих Нидерландов, в сезоне 1996/1997 Босман забил 20 мячей за 33 матча, он всего на один мяч отстал от лучшего бомбардира чемпионата игрока «ПСВ» Люка Нилиса. «Твенте» финишировал в сезона на третьем месте после чемпиона «ПСВ» и занявшего второе место «Фейеноорда». Босман ещё в течение двух сезонов выступал за «Твенте», но своей игрой не блистал, за два сезона Джон забил лишь 14 мячей в 57 матчах. Завершая игровую карьеру, Босман ещё в течение трёх сезонов с 1999 по 2002 год выступал за клуб «АЗ» из города Алкмар. За «АЗ» Джон провёл 62 матча и забил 22 мяча. В 2002 году в возрасте 37 лет Босман завершил свою футбольную карьеру.
В национальной сборной Нидерландов Джон Босман дебютировал 29 апреля 1986 года в матче против Шотландии, матч завершился со счётом 0:0. Свой первый мяч за сборную Джон забил в ворота сборной Кипра 21 сентября 1986 года, матч закончился победой Нидерландов 2:0.
28 октября 1987 года Джон забил пять мячей в матче против сборной Кипра, который завершился разгромом киприотов со счётом 8:0, а спустя месяц, 9 декабря в ответном матче против Кипра Джон забил три мяча, а его сборная победила 4:0.
В 1988 году в составе сборной Нидерландов Босман стал чемпионом Европы, в финале нидерландцы победили сборную СССР 2:0, но Босман в финале так и не вышел, он был запасным игроком.
Всего за сборную Джон провёл 30 матчей и забил 17 мячей, свой последний матч за Нидерланды он провёл 4 июня 1997 года против сборной ЮАР, матч закончился победой Нидерландов 2:0.
Клубные
Национальные