Концертировал с десятилетнего возраста. Окончил Парижскую консерваторию (1860), ученик Луи Дорюса. В 1879 г. основал ансамбль «Общество камерной музыки для духовых инструментов» (фр. Soci?t? de musique de chambre pour instruments ? vent). В 1887 г. вместе с гобоистом Жоржем Жилле и кларнетистом Шарлем Тюрбаном сопровождал Камиля Сен-Санса в его петербургских гастролях. В 1890 г. начал карьеру дирижёра, в 1892—1901 гг. возглавлял Оркестр концертного общества Парижской консерватории. Одновременно с 1893 г. занял кафедру флейты в Парижской консерватории. Учебник Таффанеля, «Полный метод игры на флейте» (фр. M?thode compl?te de fl?te), завершили после смерти учителя его ученики Луи Флёри и Филипп Гобер.
Таффанель был также композитором, и такие его произведения, как Большая фантазия, Фантазия на темы из оперы Вебера «Вольный стрелок», Квинтет для духовых, до сих пор входят в репертуар музыкантов-духовиков.