Родился в семье священника Е. Ф. Пескова, который дал ему фамилию в память о земляке протоиерее Ф. А. Голубинском.
В 1843—1848 годы обучался в Солигаличском духовном училище; в 1854 году окончил Костромскую духовную семинарию и как лучший ученик был зачислен в Московскую духовную академию на казённый кошт.
В 1858 году окончил Московскую духовную академию, с 1861 года преподавал в ней историю Русской Церкви. С 1881 года профессор МДА; в 1895 году вышел в отставку. В 1906—1907 годы был членом Предсоборного присутствия.
Первой работой Голубинского было его курсовое сочинение «Об образе действования православных государей греко-римских в IV, V и VI веках в пользу церкви против еретиков и раскольников» (1859).
В совершенстве овладев греческим языком, отправился в поездку на греческий восток в 1872—1873 годы, а также в Европу.
В своём подходе к историческому материалу киевского (домонгольского) периода применил критический историко-сравнительный метод, ранее не использовавшийся применительно к данной теме, сопоставляя имеющиеся свидетельства с византийской церковно-канонической практикой. Прославился своим смелым обращением с легендарными фигурами истории и русской святости.
Некоторые работы при жизни не были опубликованы по цензурным соображениям. Пользовался поддержкой А. В. Горского, митрополита Макария (Булгакова) и обер-прокурора Д. А. Толстого; всячески противодействовал ему К. Победоносцев.
В 1902 году был избран в члены Академии Наук. В 1906 году окончательно потерял зрение.