Сын врача, учился в Италии, Германии и Франции где его наставником в 1874-1878 был Эмиль Огюст Каролюс-Дюран. Ранние работы художника высоко оценил Генри Джеймс. Во Франции Сарджент сблизился с импрессионистами, теснее всего - с Клодом Моне (известна картина Сарджента Клод Моне, работающий на опушке леса). Также дружил c Робером де Монтескью, Полем Эллё. По большей части жил во Франции и Великобритании, много путешествовал по Европе, Северной Африке, Ближнему Востоку, часто бывал в Италии, не раз приезжал в США.
Похоронен в Бруквуде, графство Суррей.
По адресу Сарджента нередко высказывались скептически художники-импрессионисты (например, Камиль Писарро), критики из группы Блумсбери (Роджер Фрай). Однако в 1960-е годы к Сардженту пришло широкое признание, его выставки состоялись в крупных музеях Европы и США, он достиг ранга национального и мирового классика.
В целом от художника осталось около 900 работ маслом, 2000 акварелей, множество графических работ. Ряд его произведений хранится в американских музеях, прежде всего – в Бруклинском музее в Нью-Йорке. В 2003 в Нью-Йорке с большим успехом прошла выставка Женщины Джона Сарджента.