Образование получил в семинарии Вильнюса и семинарии Белостока, Католическом университете Люблина, в Люблине (доктор нравственного богословия).
Рукоположён был Хенрик Гульбинович, 18 июня 1950 года, в про-кафедральном соборе Успения Девы Марии, в Белостоке, рукополагал Ромуальд Ялбжиковский, архиепископ Вильнюса. Инкардинирован в епархию Белостока, в Польше. Пастырское служение в Белостоке в 1950-1951 годы. Дальнейшее обучение в 1951-1955 годы, в Люблине. Капеллан академии Белостока в 1956-1959 годы. Преподаватель семинарии Вармии, в Вармии, и чиновник в епархиальной курии в Ольштыне в 1959-1970 годы.
12 января 1970 года избран титулярным епископом Аччи и апостольским администратором Белостока, польских территорий архиепархии Вильнюса. Рукоположён 8 февраля 1970 года, про-кафедральном соборе Успения Девы Марии, в Белостоке, кардиналом Стефаном Вышинским, архиепископом Гнезно и Варшавы при содействии Юзефа Джазги — титулярного епископа Синиандо, апостольского администратором ad nutum Sanct? Sedis для Центральной и Южной частей епархии Вармии, и Казимежа Майданского — титулярного епископа Цороло, вспомогательного епископа Влоцлавека. 3 января 1976 года назначен архиепископом Вроцлава.
Руководя этой местной Церковью в эти годы, он создал множество пастырских центров в этом большом регионе. Кроме того, он основал выходящий раз в две недели журнал «Now Zycie» (Новая жизнь) и короновал статую Девы Марии в качестве покровительницы известной святыни Вамбьежице (польск. Wambierzyce) в Силезии, которая постоянно привлекает паломников.
За несколько дней до введения военного положения в 1981 году, местный филиал профсоюза Солидарность снял с банковского счета 80 миллионов польских злотых, что эквивалентно на сегодняшний день 100 миллионам долларов, и отдал на хранение наличными Гульбиновичу, который скрыл это от коммунистического режима во время делегализации «Солидарности».
Возведён в кардиналы-священники папой римским Иоанном Павлом II на консистории от 25 мая 1985 года, получил красный биретту и титулярную церковь Immacolata Concezione di Maria a Grottarossa.
17 октября 2003 года Хенрику Гульбиновичу исполнилось 80 лет и он потерял право на участие в Конклаве. 3 апреля 2004 года папа римский Иоанн Павел II принял его отставку с поста архиепископ Вроцлава.
Хенрик Гульбинович является автором ряда работ в области нравственного и догматического богословия, а также по формации духовенства.