Николай Эрастович Берзарин родился 1 апреля 1904 года в городе Санкт-Петербурге в семье рабочего. Николай, его брат и 4 сестры рано остались без родителей: отец умер в 1917 году, мать — в 1918 году.
В 1913 году он поступил на вечерние курсы в Петроградской начальной школе, закончил образование со специальностью «переплётчик». 14 октября 1918 года Берзарин добровольно вступил в Красную Армию и сражался на Северном фронте против белогвардейцев и англо-американских интервентов. В 1921 году участвовал в подавлении Кронштадтского восстания, и в должности помощника начальника пулемётной команды и командира взвода — в разгроме повстанческих отрядов в Амурской области (1924). В 1923 году окончил курсы комсостава.
С 1922 член ВЛКСМ. С 1926 года, после окончания учебных курсов офицеров пехоты в Москве, — член ВКП(б).
В 1925 он сочетался браком со служащей сберегательных касс Натальей Просинюк, с которой у них родились две дочери: Лариса (1926) и Ирина (1938). Окончил в 1925 году пулемётные курсы при Стрелково-тактических курсах усовершенствования комсостава РККА «Выстрел» имени Коминтерна и в 1927 году — повторно окончил курсы комсостава Сибирского военного округа. В 1927 году возвращается в Сибирь, где назначается командиром учебного подразделения школы командиров в Иркутске. Активно участвует в боях на КВЖД, после чего много лет продолжает службу на Дальнем Востоке. С 1931 года командовал ротой, затем с 1933 года служит в штабе ОКДВА в Хабаровске помощником начальника отдела боевой подготовки и командиром для особых поручений. С 1934 года в штабе Приморской группы войск. С 1935 года — командир и военком (с 1936) стрелкового полка 26-й стрелковой дивизии. В августе 1937 назначен начальником 2-го отдела штаба Приморской группы войск.
С июня 1938 года командовал 32-й стрелковой дивизией. В этой должности участвовал в боях у озера Хасан. В феврале 1939 года назначен командиром 59-го стрелкового корпуса ОКДВА , а в июле 1940 года — заместителем командующего 1-й Краснознамённой армией Дальневосточного фронта. 4 июня 1940 Н. Э. Берзарину было присвоено звание генерал-майор. С мая 1941 года — командующий 27-й армией Прибалтийского Особого военного округа.
В Великую Отечественную войну Н. Э. Берзарин вступил командующим этой армией, участвовал в Прибалтийской оборонительной операции, затем оборонялся в районе озера Селигер в составе Северо-Западного фронта. С декабря 1941 года командовал 34-й армией Северо-Западного фронта; участвовал в Демянской операции 1942 года. С октября 1942 года был заместителем командующего 61-й армией, позднее — 20-й армией. В марте 1943 года — тяжело ранен под Вязьмой, после чего находился до августа 1943 года в военном госпитале. Генерал-лейтенант (28 апреля 1943 года).
С сентября 1943 года — командующий 39-й армией на Западном, Калининском и 1-м Прибалтийском фронтах. Участвовал в зимних наступательных боях 1943—1944 годов на витебском направлении (Витебская наступательная операция).
С мая 1944 года командовал 5-й ударной армией на 3-м Украинском фронте и на 1-м Белорусском фронте с октября 1944 года. Отличился в наступательных операциях Советских Вооружённых Сил: Ясско-Кишинёвской (его армия освободила Кишинёв), в Висло-Одерской (армия Берзарина прорвала немецкую оборону и обеспечила ввод в прорыв ударной группировки фронта — 2-й гвардейской танковой армии), в Берлинской операциях. На подступах к Берлину армия Берзарина наступала в составе главной ударной группировки фронта, а в штурме Берлина 5-й ударной армии под командованием Берзарина была поручена боевая задача особой важности — овладеть районом правительственных кварталов, расположенных в центре города, в том числе имперской канцелярией, где находилась ставка Гитлера. Ударная армия Берзарина вошла в берлинский район Марцан (нем. Marzahn) 21 апреля.
Учитывая наиболее успешное продвижение 5-й ударной армии при штурме Берлина и выдающиеся личные качества её командарма, удостоенного накануне Берлинской операции звания Героя Советского Союза, маршал Жуков назначает 24 апреля 1945 года Берзарина первым советским комендантом и начальником советского гарнизона г. Берлин. 28 апреля 1945 года был опубликован подписанный Берзариным приказ № 1 «О переходе всей полноты власти в Берлине в руки советской военной комендатуры». Городская комендатура разместилась в районе Лихтенберг (нем. Lichtenberg), в то время как штаб-квартира советского гарнизона, которая также подчинялась ему, находилась в районе Карлсхорст.
Как городской комендант он выступает за восстановление порядка, создаёт городскую полицию и предоставляет заказы для снабжения населения. Кроме того, он приглашает первый послевоенный магистрат и беспокоится об оживлении культурной жизни в городе.
16 июня 1945 года Берзарин погиб в автокатастрофе на перекрёстке Шлоссштрассе и Вильгельмштрассе (ныне Ам-Тирпарк и Альфред-Ковальке-Штрассе) в берлинском районе Фридрихсфельде (нем. Friedrichsfelde). Мотоцикл, которым управлял генерал, врезался в грузовик. По утверждению Г. Климова, служившего в это время в Берлине, водитель грузовика на месте происшествия застрелился .
В то же время существует версия, что генерал Берзарин был убит немецкими партизанами из подразделения Вервольф (Werwolf).
Похоронен на Новодевичьем кладбище в Москве.
Н. Э. Берзарин — почётный гражданин города Берлина. Это звание было присвоено ему посмертно правительством ГДР в 1975 году. После объединения Германии в 1992 году Берзарин был исключён из списков почётных граждан вместе с рядом других советских военачальников. После жарких дебатов 11 февраля 2003 года Сенат Берлина с подачи правящего бургомистра Клауса Воверайта всё же вернул Берзарину звание почётного гражданина Берлина на основании дополнительного изучения материалов.
В берлинском районе Фридрихсхайн его именем названа площадь (нем. Bersarinplatz); с апреля 2005 года в административном округе Берлина Марцан-Хеллерсдорф имя Берзарина носит мост (нем. Nikolai-Bersarin-Br?cke). Имя Н. Э. Берзарина носит улица в Москве.