Окончил Высшую музыкальную школу в Граце (1971), затем учился в Италии (у Франко Феррары и Серджиу Челибидаке) и в СССР (у Арвида Янсона).
В 1984—1994 гг. музыкальный руководитель зальцбургского оркестра «Моцартеум», в 1994—1997 гг. — Национального оркестра Страны басков. В 1995—2003 гг. музыкальный руководитель Оркестра филармонии Калгари и одновременно Национального оркестра Аквитании. С 2001 г. руководитель Хьюстонского симфонического оркестра. В 2002 г. удостоен звания кавалера ордена Почётного легиона за мировую пропаганду современной французской музыки (в частности, Анри Дютийо, над записью всех оркестровых сочинений которого Граф работал с Национальным оркестром Аквитании).