Родился в городе Самтредиа Грузинской ССР. Окончил филологический факультет Тбилисского государственного университета (специальность — испанский язык и литература).
С 1958 по 1961 год был сотрудником газеты тбилисской газеты «Молодой сталинец».
В 1961—1964 годах был заведующим отделом, заведующим редакцией газеты «Молодежь Грузии».
В 1964-1966 годах работал инструктором отдела пропаганды и агитации ЦК ВЛКСМ.
В 1966 году перешёл работать в в газету «Известия» (орган Верховного Совета СССР, фактически второй по важности официальный печатный орган страны после «Правды») заместителем редактора отдела писем, затем (1981—1983 годы) был специальным корреспондентом в Мексике, с 1983 по 1986 годы — ответственный секретарь редакции газеты, в 1986 стал заместителем главного редактора газеты.
23 августа 1991 года коллективом редакции был избран главным редактором. Газета объявила о своей независимости от партийных инстанций и перестала быть органом Верховного Совета СССР.
С 1993 года становится генеральным директором газетно-издательского комплекса «Известия», Президентом ОАО «Редакция газеты „Известия“». Газета активно поддерживала либеральные реформы Президента Ельцина и не менее активно критиковала методы их проведения.
С началом первой чеченской войны устроил пресс-конференцию правозащитника Сергея Ковалёва, направленную против военных действий в Чечне.
В 1997 году опубликовал заметку «Монд» о миллиардном состоянии Газпрома, приписаннных Виктору Черномырдину. В результате, акции «Известий» скупленные Лукойлом и Онэксим-банком, лишили редактора реальной власти.
В августе 1997 года после ухода из газеты, Голембиовский вместе со своими коллегами Отто Лацисом, Сергеем Агафоновым, Константином Кедровым, Сергеем Дардыкиным, Еленой Ямпольской и др. при финансовой поддержке структур Бориса Березовского образовал «Новые Известия». В 2003 году Голембиовский был смещен с поста главного редактора газеты председателем совета директоров издания Олегом Митволем после публикации материала о культе личности Путина. После этого коллектив журналистов во главе с Голембиовским создал газету «Русский курьер», однако весной 2005 года из-за финансовых проблем её выпуск был приостановлен.
2 октября 2009 года, скончался в Москве на 75-м году жизни. Похоронен 6 октября на Троекуровском кладбище.