Родился в Париже 29 ноября 1825 в семье бедных ремесленников-каретников. Его отец из трех сыновей смог дать хорошее образование только Жану Мартену. Его определили в лицей Сен-Луи (Святого Людовика, Lус?e St. Louis). В 1844 году он поступил на медицинский факультет Парижского университета, через четыре года стал интерном в больнице Сальпетриер, открытой в 1856 году и предназначенной для «престарелых женщин и частью как приют для эпилептичек и помешанных».
В 1858 году Шарко стал доктором медицины, в 1860 году — профессором невропатологии. В 1862 году он возвращается в больницу уже в качестве главного врача, ему достается отделение с «не-психическими эпилептичками и истеричками» (тогда считали, что истерия — заболевание не психического характера).
В 1866 году Шарко начал читать в Сальпетриер лекции по внутренним, а с 1870 года — по нервным болезням, они пользовались большим успехом, на них съезжались известные врачи и ученые. 1872 году он становится профессором патологической анатомии на медицинском факультете Парижского университета. Шарко понимал необходимость масштабных исследований в области нервных болезней, и в Сальпетриер начинают принимать новых пациентов с нервными расстройствами, в том числе мужчин, создаются новые лаборатории, патолого-анатомический музей. В результате этих преобразований возникает специализированный невропатологический институт. В 1882 году Шарко возглавил новую кафедру нервных болезней, которая открылась в Сальпетриер благодаря стараниям друзей и самого ученого. В 1880 году им был основан журнал «Архивы неврологии».
В 1883 году Шарко, уже будучи ученым с мировым именем, стал членом Парижской академии наук. К этому времени он имел множество учеников, был почетным членом нескольких иностранных академий и научных обществ.
Шарко умер 16 августа 1893 году в Морване (департамент Ньевр). Его похороны прошли тихо и скромно, так как при жизни он просил, чтобы «на его гроб не было возложено ни одного венка и над его могилой не было произнесено ни одной речи».
В начале своей исследовательской деятельности Шарко занимался преимущественно внутренними болезнями (туберкулёз, ревматизм, пневмонии, болезни почек). Позже он стал изучать строение мозга, локализацию функций в нём, и болезни, связанные с нарушением мозговых структур. Используя патоморфологические данные, он установил связь между полиомиелитом и некоторыми другими заболеваниями, проявляющимися в атрофии мышц. Описал т. н. сустав Шарко (нейрогенный отек сустава, вызванный дегенерацией спинного мозга) и доказал, что эта патология не связана с ревматизмом. В 1868 году дал первое подробное описание рассеянного склероза, а в 1869 — амиотрофического бокового склероза. Совместно с Ш. Бушаром установил причины кровоизлияний в мозг. Занимаясь травмами спинного мозга, подробно описал его анатомию и физиологию.
С 1870 году Шарко заинтересовался заболеваниями нервной системы (рассеянный склероз, болезнь Паркинсона). В клинике Сальпетриер он руководил отделением с больными истерией. Ко времени, когда Шарко подошёл к изучению природы истерии, эта болезнь считалась исключительно женской, а её причины видели в нарушении работы матки. В своей клинической практике Шарко обратил внимание на то, что его пациентки часто страдали такими соматическими заболеваниями, как параличи, слепота, опухоли, не имея при этом ни нарушений мозга, ни других характерных в таких случаях органических нарушений. Он также заметил, что эти женщины обладали повышенной чувствительностью к гипнозу. На публичных лекциях по медицине и психопатологии Шарко проводил эксперименты, в ходе которых вводил своих больных в состояние гипноза и внушал им, что они страдают параличом той или иной части тела. После выхода из гипнотического состояния испытуемые действительно оказывались парализованными. Так же с помощью гипноза Шарко возвращал их в обычное, здоровое состояние.
В результате он пришёл к выводу, что при истерии человек находится в состоянии, подобном гипнозу, в обычной жизни. У такого человека может наступить паралич либо от сильного удара по какой-либо части тела, или от слабого, но постоянного и монотонного воздействия какого-то раздражителя (что выступает здесь как аналог внушения гипнотизера).
Уже после смерти Шарко, в 1899 году была опубликована его книга «Исцеляющая вера». В ней говорится о решающей роли веры (сегодня — внушения) в происхождении и лечении симптомов истерии. Все знаменитые «чудесные исцеления» соматических заболеваний с помощью святых, их мощей, икон и т. п. Шарко объясняет тем же механизмом, который он демонстрировал в своих экспериментах. «Целительная вера религиозная и мирская не может быть раздвоенной; это один и тот же мозговой процесс, производящий одинаковые действия», — говорил он. Твердое убеждение больного в будущее излечение является самым главным лекарством в такого рода исцелении; создание у человека такого убеждения — задача целителя. Шарко полагал, что известные религиозные целители, такие как Франциск Ассизский, Св. Тереза, сами «страдали такой же болезнью, проявления которой затем они стали исцелять», то есть истерией.
Шарко видел истоки истерии в нарушении работы периферической нервной системы. Такого рода нарушения, по его мнению, приводят человека в особенно чувствительное к внешним воздействиям состояние, а это, как правило, влечет за собой истерию. Шарко добился возможности принимать у себя в больнице не только женщин, но и мужчин. В результате исследований подтвердились его выводы о том, что истерия — не только женская болезнь.
Наряду с научной школой Сальпетриер, главой которой был Шарко, существовала и школа в Нанси, созданная Амбруазом Огюстом Льебо. Она также возникла на базе клиники и тоже занималась изучением природы гипноза и его использованием на практике. Ученые из Нанси предложили другое понимание гипноза как общего для всех людей свойства внушаемости, но выраженного у разных людей в разной степени. Они полностью отрицали причастность периферической нервной системы к гипнозу. По мнению нансинской школы, природа гипноза психологическая, тогда как Шарко считал её органической. Сегодня стало ясно, что в этом отношении была права школа Нанси, но нельзя недооценивать и вклад, который внес Шарко в исследования этой проблемы. Дискуссия между двумя школами создала научную базу для изучения явлений гипнотизма и внушения, они усовершенствовали технику применения гипноза и сделали его реальным и эффективным инструментом для исследования и лечения нервных болезней. Важнейшим результатом их исследований было установление теснейших связей между психологией и физиологией.
Ж. М. Шарко оказал огромное влияние на Зигмунда Фрейда. В 1885 году Фрейд приехал на стажировку к Шарко в клинику Сальпетриер. Четыре месяца, которые Фрейд провел в клинике, определили направление его дальнейшей работы. Шарко считал Фрейда способным студентом и доверил ему перевод своих работ на немецкий язык. Именно в своих исследованиях по истерии Фрейд делает первые наброски по психоанализу. Позже он говорил о Ж. М. Шарко: «Ни один человек не имел на меня такого влияния… Мне случалось выходить с его лекций с таким ощущением, словно я выхожу из Нотр-Дама, полный новым представлением о совершенстве».
За время работы Шарко в больнице Сальпетриер она превратилась в большой исследовательский институт мирового значения. Учениками Шарко были такие ученые, как Рише, П.Жане, А.Бине, которые продолжили его дело.