Учился в Будапештском музыкальном училище у Антала Фриша, затем в Музыкальной академии Ференца Листа у Лео Вайнера и Золтана Кодаи. В 1939 г. начал активную концертную деятельность, сотрудничал в Риме с Альфредо Казеллой, впервые в Венгрии исполнил виолончельный концерт Дариуса Мийо, однако с началом Второй мировой войны карьера Мадьяра прервалась, на некоторое время он даже оказался в концлагере. В 1948 г. он уехал из Венгрии в Венесуэлу, где также впервые в этой стране исполнил концерт Мийо. С 1949 г. Мадьяр живёт в США. В 1951—1956 гг. он был профессором виолончели и камерного ансамбля в Оклахомском университете, продолжая концертировать как солист. В 1956 г. Мадьяр завершил сольную карьеру, заняв место виолончели в Венгерском квартете — и оставался в составе ансамбля на протяжении последних 16 лет его существования. С 1980 г. Габор Мадьяр живёт в Иллинойсе.