Родился в городе Режица Витебской губернии в еврейской семье. Образование получил в Себежском уездном училище и в Варшавском пехотном юнкерском училище, был произведён в офицеры в 65-й пехотный Московский полк (1882). Перед поступлением в юнкерское училище принял православие (1879). Окончив затем академию Генерального штаба (1888), с 1889 года Грулёв служил в Приамурском и Туркестанском военных округах, совершил ряд поездок в Индию, Китай, Египет, и Японию.
В чине офицера Генерального штаба, был начальником русской торговой экспедиции по реке Сунгари. В 1895 году был российским военным агентом в Японии. Возглавлял научную экспедицию в Маньчжурию, которая проводила изыскания для постройки КВЖД; рекомендовал место для закладки города Харбина.
Во время русско-японской войны 1904—1905 годов командовал 11-м пехотным Псковским полком, был контужен и за боевые отличия получил ордена св. Владимира 4-й степени с мечами и бантом, св. Владимира 3-й степени, золотое оружие и чин генерал-майора. М. В. Грулёв отличился как командир полка (позже дивизии) в сражениях у реки Шахэ.
По окончании войны, в 1907—1909 годах, был членом военно-исторической комиссии при Главном управлении Генерального штаба по описанию русско-японской войны, принял участие в составлении «Истории русско-японской войны». С 1910 года состоял начальником штаба Брест-Литовской крепости, в 1912 году вышел в отставку в звании генерал-лейтенанта и поселился в Ницце.
Литературная деятельность М. В. Грулёва началась в конце 1870-х годов, когда он начал публиковать стихи на древнееврейском языке в газете «хаЦфира» (Га-цфира). В 1880 году, когда он, ещё юнкером, напечатал в газете «Голос» статью о походе в Индию; затем им было напечатано много статей в «Русском инвалиде», «Военном сборнике», «Приамурских ведомостях», «Историческом Вестнике» и «Русской старине». М. В. Грулёв был также редактором «Туркестанских ведомостей», «Известий Туркестанского отделения Императорского географического общества», секретного журнала «Сведения, касающиеся стран, сопредельных с Туркестанским военным округом» и помощником редактора журнала «Разведчик». Опубликовал несколько своих статей и переводов в секретном многотомном издании Военно-учёного комитета «Сборник географических, топографических и статистических материалов по Азии».
Среди отдельно изданных работ стоит особо отметить книгу «Соперничество России в Средней Азии» — блестящая аналитическая и историческая работа, переведённая на английский и немецкий языки и не утратившая своего значения и в наше время. Перу Грулёва принадлежат также корреспонденции с театра военных действий 1904—1905 годов, печатавшиеся в «Русских ведомостях» и «Разведчике». Доход от своей последней книги мемуаров «Записки генерала-еврея» (1930) М. В. Грулёв пожертвовал в Еврейский национальный фонд на приобретение земель в Палестине.