Николай Бугаев родился в Тбилисской губернии в семье военного врача кавказских войск. В 1847 году был отправлен отцом в Москву для обучения в гимназии; учился в Первой московской гимназии (по другим данным — во Второй московской гимназии), уже с четвёртого класса он ничего не получал из дома и жил исключительно на то, что зарабатывал уроками; школу он окончил с золотой медалью.
В 1855 году он поступил на Физико-математический факультет Московского университета. Среди преподавателей Бугаева были профессора Николай Ефимович Зернов (1804—1862), Николай Дмитриевич Брашман (1796—1866), Август Юльевич Давидов (1823—1885). Известно, что после лекций Бугаев занимался самообразованием, читая дома труды по философии и политэкономии.
В 1859 году, после окончания университетского курса, Бугаеву было предложено остаться при Университете для подготовки к профессуре, но он отказался, решив избрать военную карьеру. Поступив на службу унтер-офицером в гренадерский сапёрный батальон с прикомандированием к лейб-гвардии сапёрному батальону, одновременно он был принят экстерном в Николаевское инженерное училище в Санкт-Петербурге. В 1860 году Бугаев после сдачи экзамена был произведён в военные инженер-прапорщики и оставлен при Николаевской инженерной академии для продолжения обучения. Среди тех, чьи лекции слушал Бугаев, можно выделить математика Михаила Васильевича Остроградского (1801—1861/1862). Обучение в академии закончилось после того, как был отчислен один из инженер-прапорщиков — и многие его товарищи, среди которых был и Бугаев, подали в знак протеста прошения о своём отчислении. Прошения были удовлетворены, Бугаев был откомандирован в сапёрный батальон. Вскоре он оставил военную службу, в 1861 году вернулся в Москву и стал готовиться к защите диссертации.
В 1863 году Бугаев защитил магистерскую диссертацию на тему «Сходимость бесконечных рядов по их внешнему виду», после чего получил заграничную командировку на два с половиной года для подготовки к профессорскому званию. Среди тех, чьи лекции он слушал в Германии и Франции, можно отметить Жозефа Бертрана (1822—1900), Карла Вейерштрасса (1815—1897), Жана Дюгамеля (1797—1872), Эрнста Куммера (1810—1893), Габриеля Ламе (1795—1870), Жозефа Лиувилля (1809—1882), Жозефа Серре (1819—1885), Мишеля Шаля (1793—1880). Бугаев выделял среди них Эрнста Куммера, у него Николай Васильевич слушал лекции по аналитической механике, теории чисел, теории поверхностей и теории гипергеометрических рядов.
В 1865 году Бугаев вернулся в Москву и был избран доцентом по кафедре чистой математики. К этому же периоду относится и его активное участие в работе организованного во время его отъезда Московского математического общества.
В 1866 году Бугаев защитил докторскую диссертацию о рядах, связанных с основанием натуральных логарифмов e («Числовые тождества, находящиеся в связи со свойствами символа Е») и в 1867 году стал профессором Московского университета. Он стал читать теорию чисел, а позже исчисление конечных разностей, вариационное исчисление, теорию эллиптических функций, теорию функций комплексного переменного.
В 1879 году Бугаев был избран членом-корреспондентом Императорской Санкт-Петербургской академии наук.
В 1886 году Бугаев стал вице-президентом Московского математического общества, а с 1891 года и до конца жизни — президентом Общества.
В 1887 году был избран деканом физико-математического факультета университета, занимал эту должность до 1891 года, а затем в с 1893 года по 1894 год.
Исследования в основном в области анализа и теории чисел. Доказал гипотезы, сформулированные Лиувиллем. Наиболее важные работы Бугаева по теории чисел были основаны на аналогии между некоторыми операциями в теории чисел и операциями дифференцирования и интегрирования в анализе. Построил систематическую теорию разрывных функций.
Работы Бугаева привели к созданию в 1911 году, спустя 8 лет после его смерти, его учеником Дмитрием Фёдоровичем Егоровым (1869—1931), московской школы теории функций вещественных переменных.
В 1863—1865 гг. Бугаев был в Европе. В это время в Москве, в сентябре 1864 года, возникло Московское математическое общество — сначала как научный кружок преподавателей математики (большей частью из Московского университета), объединившихся вокруг профессора Николая Дмитриевича Брашмана. Вернувшись в Москву, Бугаев активно включился в научную работу Общества. Изначальной целью общества было знакомство друг друга посредством оригинальных рефератов с новыми работами в различных областях математики и смежных наук — как собственными, так и других учёных; но уже в январе 1866 года, когда была подана просьба об официальном утверждении Общества, в его уставе была записана существенно более амбициозная цель: «Московское математическое Общество учреждается с целью содействовать развитию математических наук в России». Официально Общество было утверждено в январе 1867 года.
Бугаев до самой своей кончины был деятельным сотрудником Общества, входил в состав его бюро, исполнял обязанности секретаря. С 1886 года, после смерти Давидова, президентом Московского математического общества был избран Василий Яковлевич Цингер (1836—1907), а вице-президентом — Бугаев. В 1891 году, после того, как Цингер попросился в отставку по состоянию здоровья, президентом Общества был избран Бугаев; Николай Васильевич занимал этот пост до конца своих дней.
Для публикации докладов, прочитанных на заседаниях, был организован журнал «Математический сборник», его первый номер вышел в 1866 году; большинство работ Бугаева были напечатаны именно в нём.
Бугаев принимал активное участие и в работе других научных обществ — Общества распространения технических знаний, Общества естествознания, Психологического общества, Общества натуралистов.
Философией Бугаев активно занимался ещё в студенческие годы. В тот период его занимала возможность примирения идеализма с реализмом, он говорил, что «всё относительно и толъко в пределах данных условий становится абсолютным».
Позже Бугаева привлекали идеи позитивизма, но в конце концов отошёл от них.
На заседании Московского Математического Общества в марте 1904 года, посвящённому памяти Бугаеву, профессор философии Лев Михайлович Лопатин (1855—1920) в своей речи говорил, что Николай Бугаев «по внутреннему складу своего ума, по заветным стремлениям своего духа… был столько же философ, как и математик». В центре философского мировоззрения Бугаева лежит (по Лопатину) творчески переработанное понятие немецкого математика и философа Готфрида Лейбница (1646—1716) — монада. Согласно Лейбницу, мир состоит из монад — психически деятельных субстанций, находящихся между собой в отношении предустановленной гармонии. Бугаев под монадой понимает «самостоятельный и самодеятельный индивидуум… живой элемент…» — живой, поскольку обладает психическим содержанием, суть которого — бытие монады для себя самой. Монада для Бугаева — тот единичный элемент, который является базовым для изучения, поскольку монада есть «целое, неделимое, единое, неизменное и себе равное начало при всех возможных отношениях к другим монадам и к себе самой», то есть «то, что в целом ряде изменений остаётся неизменным». Бугаев в своих работах исследует свойства монад, предлагает некоторые методики анализа монад, указывает на некоторые законы, свойственные монадам.
При советской власти Московская философско-математическая школа в связи с так называемым «Делом Промпартии» (1930) и разгромом научной статистики (первая «волна» — после демографической катастрофы, вызванной голодом 1932—1933 годов, вторая «волна» — после «неправильной» переписи 1937 года) была объявлена реакционной. Вот что, к примеру, было написано в выпущенной в 1931 году брошюре «На борьбу за диалектическую математику»: «Эта школа Цингера, Бугаева, Некрасова поставила математику на службу реакционнейшего „научно-философского миросозерцания“, а именно: анализ с его непрерывными функциями как средство борьбы против революционных теорий; аритмологию, утверждающую торжество индивидуальности и кабалистики; теорию вероятностей как теорию беспричинных явлений и особенностей; а всё в целом в блестящем соответствии с принципами черносотенной философии Лопатина — православием, самодержавием и народностью». В опубликованной в 1938 году статье «Советская математика за 20 лет» говорилось об «отрицательном значении для развития науки реакционных философских и политических тенденций в московской математике (Бугаев, П. Некрасов и др.)». В последующие годы об идеях Московской философско-математической школы в советской литературе практически не упоминалось.
Названия работ Бугаева даны в соответствии со списком, размещённым в журнале «Математический сборник» за 1905 год. Некоторые из этих работ в статье из Энциклопедического словаря Брокгауза и Ефрона, посвящённой Бугаеву, имеют несколько иные названия.
Работы по математике:
Работы по философии и педагогике: