Военный по образованию и по службе. В 1863 году окончил Полтавский кадетский корпус. Вступив в 1878 в число членов Товарищества передвижных художественных выставок, выставлялся со своими произведениями постоянно и исключительно на этих выставках. Содержанием его жанровых картин служили преимущественно «мотивы гражданской скорби».
В 1885 году Ярошенко приобрёл в Кисловодске дом, так называемую «Белую Виллу», где жил и работал вплоть до самой смерти.
В 1892 году мастер вышел в отставку (дослужившись, как и его отец, до чина генерал-майора, 1892).
В последние годы жизни, несмотря на тяжелую болезнь, Ярошенко много путешествовал по России и за границей: был на Волге, ездил в Италию, Сирию, Палестину, Египет.
Умер 26 июня (7 июля) 1898 года. Похоронен близ «Белой Виллы», недалеко от Собора Николая Чудотворца.
Наиболее известные творения Н. А. Ярошенко — «Кочегар», «Заключённый», «Всюду жизнь», «Студент», «Сестра милосердия» (все пять в Третьяковской галерее в Москве), «Курсистка», «Старое и молодое», «Причины неизвестны», «Невский проспект ночью», «Шат-гора» и «Забытый храм». Произведения Н. А. Ярошенко в портретном роде свидетельствуют об его способности передавать не только внешние черты, но и характер изображаемых лиц, но не отличаются особенным мастерством технического исполнения. Лучшие из этих произведений — портреты П. А. Стрепетовой (в Третьяковской галерее), Д. И. Менделеева (акварельный, там же), В. С. Соловьева, А. М. Унковского, В. Д. Спасовича, Г. И. Успенского, А. Н. Плещеева и К. Д. Кавелина. Кроме жанров и портретов, Н. А. Ярошенко писал также пейзажи, очень хорошо воспроизводя в них главным образом уголки кавказской природы. Среди таких его работ — ряд картин и этюдов, находящихся в Третьяковской галерее.
«Владимир Соловьев»
Отец — Александр Михайлович Ярошенко, генерал-майор
Мать — Любовь Васильевна
Брат — Василий Александрович, инженер, химик, был женат на Елизавете Платоновне (урождённой Степановой)
Сестра — Софья Александровна, мать Бориса Савинкова.
Супруга (с 1874 года) — Мария Павловна Невротина (— 14 сентября 1915) (есть версия, что Крамской писал с неё Неизвестную, в то время она была невестой Н. А. Некрасова).
в Санкт-Петербурге
в Кисловодске — в собственном доме (c 16 ноября 1885 года)
в Калужской губернии
усадьба жены брата Василия Александровича Елизаветы Платоновны (урождённой Степановой) Павлищев бор, где были написаны многие картины. 10 произведений хранятся в Калужском областном художественном музее.