Князь Николай Николаевич Голицын родился в семье виолончелиста и участника Отечественной войны 1812 года князя Николая Борисовича Голицына (1794—1866) и его второй супруги Веры Фёдоровны, урождённой Пешман (Вильгельмины Фридриховны фон Пошман) (1809—1872). Имел старшего брата — дирижёра князя Юрия Голицына (1823—1872). Потомок генерал-фельдмаршала М. М. Голицына-старшего.
Князь Голицын получил домашнее образование. Потом продолжил образование на историко-филологическом факультете Харьковского, а с 1856 года — на юридическом факультете Московского университета. Закончив его 1858 году, служил судебным следователем, занимаясь сбором аналитических данных о революционном движении в России. В 1862—1885 годах работал помощником председателя Курского губернского статистического комитета, а также редактировал его издания. В 1872 году стал подольским вице-губернатором, в этой должности находился до 1875 года. В 1875 году продолжил службу в Собственной Его Императорского Величества канцелярии по делам Царства Польского. Был включён в состав комиссии по пересмотру законодательства о евреях, посвятив этому вопросу ряд статей («О необходимости и возможности еврейской реформы в России» СПб., 1876; «О свободе совести во взаимных отношениях еврейства к христианству». СПб., 1876 и другие). Редактировал патриотический журнал «Варшавский дневник». Состоял при Министерстве внутренних дел. С 1882 года — действительный статский советник. В 1890 году стал членом совета Крестьянского земельного банка. В последние годы состоял секретарём великой княгини Марии Павловны.
Князь Николай Николаевич Голицын скончался 30 апреля (12 мая) 1893 года в Санкт-Петербурге, был захоронен в Москве.
В 1912 году составил «Указатель имён личных, упоминаемых в Дворцовых разрядах».
В 1869 году в Дрездене князь Николай Николаевич Голицын женился на своей дальней родственнице княжне Евгении Александровне (1852—1919), дочери князя Александра Сергеевича Голицына (1789—1858) и его второй супруги Елены Осиповны, урождённой Заржицкой (1823—1895). Княжна приходилась внучкой знаменитой фрейлине императрицы Екатерины II — Варваре Энгельгардт.
В браке родилось трое детей: