Сын скрипичного мастера, получил начальное музыкальное образование у своего отца. Уже в 1741 году он дебютировал в «Парижских духовных концертах», исполнив дуэт [нет в источнике] Жана-Мари Леклера, у которого, возможно, успел до этого поучиться.
В дальнейшем карьера Гавинье была прервана годичным тюремным заключением [нет в источнике] (как считается, [кем?] из-за любовного приключения с некоей знатной дамой), однако к 1760-м гг. его репутация восстановилась.
В 1762—1764 гг. он занимал пост концертмейстера в «Парижских духовных концертах», а в 1773—1777 гг. был, наряду с Франсуа Госсеком и своим учеником Симоном Ле Дюком, одним из их дирижёров [нет в источнике] и руководителей.
С молодых лет Гавинье был высоко оценен современниками как виртуоз. Жан-Жак Руссо причислил его к лучшим скрипачам Франции. Джованни Баттиста Виотти, услышав его игру, назвал его «французским Тартини».
Представлял «чувствительный стиль» во французском скрипичном искусстве 18 века.
Первым использовал жанр романса в скрипичной музыке.
Поздние произведения Гавинье испытали на себе влияние мангеймской школы и итальянской оперы-буффа.
После создания Парижской консерватории, в 1795 году Гавинье занял должность профессора по классу скрипки.
Среди учеников Гавинье — Луи Анри Пезибль, Антуан Лоран Бодрон, Н. Капрон, С. Ледюк, М. -А. Генен, И. Бертом Эмбо, Ж. Лемьер, Ж. Вердигье, А. Робино, Де Блуа, П. Вашон.