Всю свою карьеру Гейни провел в составе «Монреаль Канадиенс», в составе которых пять раз выигрывал Кубок Стэнли. Был выбран в первом раунде драфта 1973 года под 8 номером. С 1981 года, до конца своей карьеры, Гейни был капитаном «Монреаля». Уже после завершения карьеры хоккеиста он завоевал свой шестой Кубок Стэнли, как генеральный менеджер «Даллас Старз», победивших в 1999 году. Ныне Гейни является генеральным менеджером «Монреаля».
Всего в НХЛ Гейни провел 1160 матчей в регулярном сезоне, забил 239 шайб и отдал 263 голевые передачи. В 1992 он был избран в Зал хоккейной славы. В 1998 Гейни получил 86 место в списке 100 лучших хоккеистов НХЛ, по версии журнала Hockey News. 23 февраля 2008 года «Монреаль Канадиенс» закрепил за Гейни 23 номер.