Учился игре на фортепиано у Владимира Пухальского и теории музыки у Евгения Рыба в Киевском музыкальном училище. В 1897 поступил в Московскую консерваторию, которую окончил в 1900 по классу фортепиано Василия Сафонова и по классу композиции Сергея Танеева и Михаила Ипполитова-Иванова — два года спустя.
Как пианист впервые выступил в Москве в Кружке любителей русской музыки (1900), был активным его членом; участвовал также в «Музыкальных выставках», киевских (1904) и петербургских (1907) Вечерах современной музыки. Проработав некоторое время репетитором в Большом театре, Николаев занялся преподавательской деятельностью и начал сочинять музыку. Его произведения, получившие в то время известность, испытывали влияние русского классического наследия, в частности, музыки Чайковского, но были отмечены и оригинальностью, своеобразием композиторского почерка. С 1909 Николаев преподавал фортепиано и композицию в Петербургской консерватории (с 1912 — профессор). В середине 30-х годов кратковременно занимал должность директора. В 1942 Николаев вместе с другими преподавателями консерватории был эвакуирован в Ташкент, где умер от брюшного тифа.
Николаев — один из наиболее заметных представителей отечественной фортепианной школы первой половины XX века. Его исполненительская манера отмечена свободой, ясностью замысла, логикой и уравновешенностью исполнения, филигранной техникой. В репертуаре пианиста были сочинения от Бетховена до Рахманинова, он также был одним из первых пропагандистов творчества С. С. Прокофьева и Н. К. Метнера. Николаев-композитор ? наследник традиций русского реализма: его сочинения ? фортепианная, скрипичная и виолончельная сонаты, Вариации, Тарантелла, Сюита для двух фортепиано, три струнных квартета, романсы ? характеризуются мелодичностью, ясностью выражения, хорошим владением полифонией. Ему также принадлежат транскрипции органных работ Букстехуде и Пахельбеля, которые с успехом исполнялись его учениками.
Наибольшую известность Николаев получил как педагог. За годы преподавания в консерватории он воспитал ряд известных впоследствии композиторов и пианистов, среди которых — Владимир Софроницкий, Дмитрий Шостакович, Мария Юдина, Павел Серебряков, Натан Перельман, Александр Крейн, Валериан Богданов-Березовский, Владимир Дешевов и многие другие.