Родился 8 мая 1916 в Таганроге.
Учился в таганрогской школе № 2 (1925—1931, она именовалась Таганрогской фабрично-заводской девятилеткой № 2 при металлургическом заводе). С 1936 года работал в листопрокатном цехе Таганрогского металлургического завода.
В 1939 году окончил Балаклавскую моpскую погpаничную школу, служил во 2-м и 1-м Чеpномоpских отpядах погpаничных судов.
Участник Великой Отечественной войны с июня 1941 года. С первых дней обороны Севастополя катер, на котором служил Иван Голубец, входил в Севастопольский гарнизон.
К исходу марта 1942 года город-крепость Севастополь уже пять месяцев героически сражался, находясь в полной блокаде со строны суши. 25 марта 1942 года в Стрелецкой бухте рулевого сторожевого катера «СК-0183» старшего матроса Голубца боцман по делам службы послал на берег. В это время противник стал обстреливать Стрелецкую бухту из дальнобойной артиллерии.
Голубец увидел сторожевой катер «СК-0121», стоявший у пирса, которому осколки разорвавшегося снаряда пробили борт. Загорелись моторные отсеки. От осколков другого снаряда, попавшего в топливную цистерну, пламя охватило корабль. Возникла угроза взрыва запаса глубинных бомб на сторожевике и уничтожения судов, находящихся в бухте. Он бросился на горевший катер, сквозь бушующее пламя пробрался на корму и стал сбрасывать тяжёлые глубинные бомбы в море. Огонь разгорался всё сильнее и неотвратимо подползал к стеллажам, но за корму уже скатилась последняя 160-килограмовая глубинная бомба.
Однако на корабле оставалось ещё около 20 малых бомб, сбросить которые было легче. К этому времени и корму охватило пламя. Сознавая опасность, отважный моряк-черноморец продолжал своё дело, пока не произошёл взрыв. Жертвуя собой, он спас десятки человеческих жизней и боевые катера.