Родился в 1743 году, происходил из дворян Смоленской губернии, сын Рижского губернатора генерал-лейтенанта Якова Семёновича Аршеневского; его братья: Пётр (1750—1812, тайный советник, Иркутский и Московский губернатор), Илья (1755—1820, председатель мануфактур-коллегии, сенатор).
В военную службу был записан в 1744 году в Ярославский пехотный полк. Получив домашнее образование и явившись в строй, Аршеневский, в рядах Ярославского полка принимал участие в кампаниях против турок в 1768—1774 годах и 22 октября 1771 года за отличие был произведён в подполковники. Вслед за тем он получил чины полковника — в 1778 году, и бригадира — в 1785 году.
В 1786 году, получив чин генерал-майора, Аршеневский был определён Екатериной II гражданским губернатором в Смоленск, но вскоре у волен от должности. 6 января 1797 года император Павел Петрович пожаловал его в тайные советники и назначил гражданским губернатором в Астрахань, но уже в следующем году, 22 апреля, Аршеневский был уволен от службы.
Среди прочих наград Аршеневский имел орден св. Георгия 4-й степени, пожалованный ему 26 ноября 1787 года (№ 477 по кавалерскому списку Григоровича—Степанова).
Умер в 1802 году.
Николай Яковлевич был женат на Евдокии Васильевне урождённой княжне Голицыной.