Окончил Гёттингенский университет (1954), посвятив дипломную работу мессам и мотетам фламандского композитора XV века Луазета Компера. В 1955—1960 гг. практиковал как независимый музыкальный критик, с 1960 г. был ассистентом выдающегося музыковеда Вальтера Виоры сперва в Кильском, а с 1965 г. в Саарбрюкенском университете. В 1967 г. защитил в Саарбрюккене докторскую диссертацию «Классический струнный квартет и его основы у Йозефа Гайдна» (нем. Das klassische Streichquartett und seine Grundlegung durch Joseph Haydn). В 1968—1981 гг. профессор музыковедения во Франкфурте, в 1981—1995 гг. в Гейдельберге. В 1977—1981 гг. президент Международного общества музыкальных исследований.
Основной труд Финшера — составленное и отредактированное им новое (второе, 29-томное) издание словаря «Музыка в истории и современности» (нем. Die Musik in Geschichte und Gegenwart), для которого он сам написал около 40 статей. Фундаментальный двухтомный труд Финшера «Музыка XV и XVI веков», его работы о Гайдне, Глюке, Моцарте и об истории струнного квартета высоко ценятся специалистами. Финшер также участвовал в редактировании и публикации сочинений Пауля Хиндемита.
В 2006 г. Финшер удостоен престижной Премии Бальцана. В настоящее время он живёт в Вольфенбюттеле.