Массне родился в Монто, тогда пригороде, а сейчас части города Сент-Этьен, департамент Луары. Когда ему было шесть лет, семья переехала в Париж, где отец Жюля Алексис Массне (1788—1863), в прошлом фабрикант регионального значения, занимавшийся производством кос и серпов, проходил курс лечения от болезни сердца. В Париже мать Жюля Аделаида (в девичестве Ройе) начала давать уроки фортепианной игры. Она также обучала и Жюля, таким образом в возрасте 11 лет он смог выдержать экзамены и поступить в Парижскую консерваторию. Он был студентом, когда семья переехала из Парижа в Шамбери, но Жюль пробыл там всего несколько месяцев, после чего вернулся в Париж и поселился у родственников первой жены своего отца. Для того чтобы заработать на жизнь Массне в течение шести лет играл на литаврах и других ударных инструментах в оркестре Театра Лирик, а также подрабатывал пианистом в Кафе де Бельвиль.
Учителя Массне по консерватории вначале не сулили ему успешной карьеры в музыке. Их мнение изменилось в 1863 году, когда за кантату «Давид Риццио» он получил Римскую премию, после чего три года стажировался в Риме. Там Массне познакомился с Ференцем Листом, по рекомендации которого давал уроки фортепиано дочери госпожи де Сен-Мери. Через три года ученица стала его женой. Брак с Луизой Констанцией де Гресси (1866) способствовал проникновению Массне в высшее общество и распространению там его произведений. Первой оперой композитора стала одноактная «Двоюродная бабушка» (1867, Опера-комик).
Массне заслужил внимание и одобрение известных композиторов той эпохи (Чайковского, Венсана д’Энди, Шарля Гуно), благодаря своей драматической оратории «Мария Магдалина» (впервые представлена в 1873). Наставником Массне стал композитор Амбруаз Тома с его связями в театральном мире. Популярности сочинений Массне способствовал также его издатель Жорж Гартман, который популяризировал творчество Массне в массовой прессе, благодаря своим знакомствам в журналистских кругах.
В 1870—1871 Массне принимал участие во Франко-прусской войне. С 1878 он профессор Парижской консерватории. Среди учеников — Гюстав Шарпантье, Эрнест Шоссон, Джордже Энеску, Рейнальдо Ан, Шарль Кёклен. В 1876 он получил орден Почётного легиона, с 1899 — командор. В 1878 по рекомендации Камиля Сен-Санса был избран членом Академии изящных искусств. Массне стал самым молодым (36 лет) академиком, когда-либо избиравшимся в состав этой академии.
Наибольшим успехом пользовались оперы «Манон» (1884), «Вертер» (1892), «Таис» (1894), «Жонглёр Богоматери» (1902), «Дон Кихот» (1910, написана специально для русского певца (бас) Федора Шаляпина).
Кроме 34 опер Массне написал фортепианный концерт, ряд концертных сюит, балетную музыку, оратории и кантаты, а также более 200 песен и романсов. Некоторые из его инструментальных фрагментов приобрели самостоятельную популярность и часто исполняются оркестрами или отдельными исполнителями: медитация из оперы «Таис» для скрипки с оркестром, арагонский танец из оперы «Сид» для оркестра, элегия из музыки к драме «Эриннии» для виолончели с оркестром. Элегия исполняется в различные аранжировках (в том числе для фортепиано), а также как отдельное вокальное произведение со словами.
Будучи профессионально работающим композитором (он ежедневно сочинял музыку с 4 часов утра), Массне разрабатывал фрагменты будущих опер не на фортепиано, а «мысленно, в уме». Эта способность позволяла Массне быть великолепным оркестровщиком собственных произведений.
Массне умер в Париже в возрасте 70 лет после тяжелой болезни (рак).