Николай Яковлевич Ильин родился в 1922 году в селе Чернухино, ныне посёлок городского типа Перевальского района Ворошиловградской области (ныне Луганской области, Украина), в семье рабочего.
После окончания средней школы № 6 работал слесарем в пункте контроля автотормозов (АКП) вагонного депо «Дебальцево-Сортировочное» Донецкой области.
С началом Великой Отечественной войны не дожидаясь призыва, сам пришел в военокмат. Был направлен в феврале 1942 года в действующую армию снайпером в 50-й Гвардейский стрелковый полк (15-я Гвардейская стрелковая дивизия, 57-я армия, Сталинградский фронт). Николай Ильин стал одним из инициаторов снайперского движения на Сталинградском фронте.
16 октября 1942 года Николаю Ильину вручили снайперскую винтовку имени Героя Советского Союза Хусейна Андрухаева на прикладе которой командование 136-й стрелковой дивизии Южного фронта, в память об отважном снайпере прикрепило металлическую пластинку с надписью «Имени Героя Советского Союза Х. Андрухаева». К моменту вручения винтовки гвардии старшине Николаю Яковлевичу Ильину, на его счету было уже 115 уничтоженных фашистов. После гибели Н. Ильина винтовка № КЕ-1729, к которой прикрепили табличку с надписью: «Имени Героев Советского Союза X. Андрухаева и Н. Ильина», была передана другому снайперу — Гордиенко Афанасию Емельяновичу. В настоящее время эта винтовка-трёхлинейка хранится в Центральном музее Вооружённых Сил СССР.
С 18 октября по 1 ноября 1942 года на участке сёл Дубовый Овраг — Большие Чапурники за 11 дней снайперской охоты Ильин уничтожил 95 гитлеровцев. К февралю 1943 года у Николая Ильина было на счету 216 солдат и офицеров противника. За мужество и отвагу в борьбе с немецкими оккупантами Николай Ильин был награждён орденом Красного Знамени.
Президиум Верховного Совета СССР Указом от 8 февраля 1943 года за мужество и воинскую доблесть, проявленные в боях с врагами, ему было присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».
После разгрома вражеской группировки под Сталинградом 15-я Гвардейская стрелковая дивизия, в которой служил Ильин, с боями достигла реки Северский Донец и заняла оборону.
4 августа 1943 года в бою под селом Ястребово Николай Ильин погиб, сражённый пулемётной очередью.
Похоронен Николай Яковлевич Ильин в селе Никольское Шебекинского района Белгородской области, где установлена мемориальная доска.