Родился в 1933 году в Магнитогорске. В 1948 году окончил ремесленное училище № 13 города Магнитогорска, получил специальность вальцовщика. После окончания училища работал в сортопрокатном цехе Магнитогорского металлургического комбината вальцовщиком. После службы в армии вернулся на комбинат. Начал работать во вновь построенном листопрокатном цехе № 3 вальцовщиком пятого клетьевого стана холодной прокатки.
В 1957 году Николай Яковлевич стал старшим вальцовщиком, обучал своей профессии молодёжь для работы на ММК и других заводах. В 1958 году обучил работе на стене молодых вальцовщиков из Польской народной республики. За свой труд Зимин в 1966 году был награждён орденом «Знак Почета», а в 1973 году — орденом Ленина. За достижения высоких производственных показателей в 1982 году ему было присвоено звание Герой Социалистического труда. В последние годы Николай Яковлевич работал мастером производственного обучения в своем родном ГОУ НПО «Профессиональный лицей №13»