Родился в Торонто, Онтарио. Он был приёмышем, биологические родители от него отказались. Его приёмный отец был пожарным. Когда ему было восемь месяцев, Хили потерял зрение из-за редкой опухоли — ретинобластомы, рака глаз. Его глаза были удалены хирургическим путем, и ему поставили протезы.
Слепой фактически от рождения он научился играть на гитаре, подаренной ему приёмными родителями, помещая ее на коленях. Его по праву ставят в один ряд с величайшими гитаристами, такими как Джими Хендрикс и Джимми Пейдж. Играл со множеством знаменитых музыкантов, в числе которых Ян Гиллан. По мнению британского журнала Classic Rock Джеф Хили является одним из величайших гитаристов всех времен. Любителям кино известен по фильму «Придорожная закусочная» или «Дом у дороги» (фильм имеет два названия на русском языке), в котором играл роль музыканта в баре. Умер в медицинском центре Св. Иосифа (англ. Joseph's Health Centre) в его родном городе Торонто в 2008 году от обострения заболевания. После серии операций по удалению двух сарком из ноги, а затем и из лёгких, рак всё-таки настиг его. Ему был 41 год. У него остались жена Кристи, и двое детей - старшая дочь и сын