Сын петроградского рабочего, красногвардейца. В детстве был членом одного из первых пионерских отрядов, с 1927 — комсомолец.
В 1930 поступил на исторический факультет Ленинградского института истории, философии и лингвистики, который закончил в 1934. В 1934—1936 работал в Барнаульском учительском институте. В 1936—1939 обучался в аспирантуре Ленинградского университета. После окончания аспирантуры направлен работать в педагогический институт г. Энгельса. В августе 1941 вернулся в Ленинград, вступил добровольцем в университетский отряд народного ополчения. В первые месяцы войны выступал с лекциями в воинских частях, на кораблях и в госпиталях. В апреле 1942 был мобилизован в Красную Армию, прошёл путь от солдата до капитана; был зам. командира роты по политчасти, начальником дивизионной партийной школы. С сентября 1943 — член ВКП(б). После окончания войны до демобилизации в 1948 преподавал историю СССР в Военно-медицинской академии им. С. М. Кирова.
С 1948 до конца жизни работал в Ленинградском университете (кроме 1952—1955, когда он преподавал в Ленинградском библиотечном институте им. Н. К. Крупской). С 1970, после защиты докторской диссертации — профессор. В 1976—1986 был заведующим кафедрой истории советского общества исторического факультета.
Научные труды Н. Я. Иванова в основном посвящены истории Октябрьской революции.