Родился в Гельсингфорсе (Хельсинки) в 1888 году. Выпускник царскосельской гимназии 1907 года. С 1913 по 1916 — сотрудник журнала «Аполлон», ради которого ему даже пришлось оставить университетскую карьеру.
В 1913-1934 годах работал в Русском музее, после революции — комиссар при Русском музее и Государственном Эрмитаже. В 1918-1919 гг. служил в ИЗО Наркомпроса. В 1927 году возглавил отделение и создал экспозицию новейших течений в искусстве Русского музея. В 1934 году уволен из музея.
Заместитель директора Ленинградского Государственного Института Художественной Культуры (ГИНХУК), позже — профессор Ленинградского государственного университета и Института Живописи Скульптуры и Архитектуры Всероссийской Академии Художеств.
Автор книг «Японская гравюра» (1915), «Андрей Рублёв» (1916), «Татлин» (1921). В 1920 году вышла книга «Современное искусство» (цикл лекций), в 1927—1928 гг. — «Новейшие течения в русском искусстве», в 1940 году — учебник по истории западноевропейского искусства.
Был арестован в 1921 году по делу «Петроградской боевой организации».
В 30-е годы Пунин был арестован, Ахматова немедленно выехала в Москву, с помощью Бориса Пастернака сумела передать прошение в Кремль, и Пунин был отпущен.
Репрессирован в 1949—1953 годах. Погиб в заключении (Воркута). Посмертно реабилитирован.
Первый брак (с 1917 года) — Аренс, Анна Евгеньевна. Одна дочь — Ирина.
Второй брак (1923—1938 гг.) — Ахматова, Анна Андреевна, был её третьим гражданским мужем (официально брак не был зарегистрирован). Многие стихи Ахматовой посвящены Н. Н. Пунину.