Родился в городе Уден (Houdain) близ Арраса. В детстве пел в церковном хоре; прекрасный голос (тенор) Эрве сохранил на всю жизнь. Учился музыке в парижской консерватории у Даниэля Обера.
1845: выигрывает конкурс на место органиста в церкви Сен-Эсташ (Париж). Одновременно делает карьеру в музыкальном театре — ситуация, позднее изображённая в его самой популярной оперетте, «Мадемуазель Нитуш».
1848: под псевдонимом «Эрве» пишет одноактный музыкальный бурлеск «Дон Кихот и Санчо Панса», который невзирая на все революционные потрясения этого года имеет большой успех у публики. Иногда этот спектакль даже рассматривают как первую французскую оперетту.
1851: Эрве становится дирижёром и руководителем оркестра в театре «Пале-Рояль».
1854: открывает небольшой собственный театр «Folies concertantes», для которого создаёт и ставит новые оперетты. Спустя месяц театр был переименован в «Фоли-Нуво» (Folies-Nouveaux). В этом театре начинал Лео Делиб, а также Жак Оффенбах, тогда ещё не владевший собственным театром. Как и театр Оффенбаха, «Folies concertantes» имел разрешение только на небольшие одноактные постановки с максимум двумя участниками. В 1860-х годах эти ограничения были в основном сняты.
Эрве — создатель жанра «оперетта-буфф». В ранних опереттах он высмеивал традиционные оперные формы; поздние работы Эрве отмечены сильным влиянием стиля Оффенбаха.
Конкуренция с театром Оффенбаха вскоре переросла в личную вражду. примирение наступило лишь в 1878 году, когда Эрве спел партию в оффенбаховской оперетте «Орфей в аду».
1883: появляется самая знаменитая оперетта Эрве — «Мадемуазель Нитуш». В отличие от других его произведений, эта оперетта наполнена искренним лиризмом.
В последние годы Эрве страдал от душевной болезни. Умер в Париже в 1892 году.
Эрве написал более 120 оперетт. Среди них наиболее известны: