Ещё в раннем детстве он лишился родителей, но мальчика взял к себе киевский мещанин Макаров. Начав художественную подготовку в Киеве, под руководством архитектора В. И. Беретти, в 1851 году М. А. Макаров приехал в Санкт-Петербург и поступил в ученики Императорской академии художеств, в которой его наставниками были сперва А. И. Штакеншнейдер, а потом Гаральд Юлиус Боссе.
Уже в 1854 году он был награждён серебряной медалью 2-й степени; а в 1855 году — серебряной медалью 1-й степени. В 1857 году он был удостоен Малой Золотой медали за проект театрального училища с принадлежащим к нему театром; в 1858 году, при выпуске из академии, за проект католического собора получил звание классного художника; в 1859 году за этот же проект и за другие работы получил звание академика Императорской академии художеств.
Начав около этого времени приобретать все большую и большую практику у петербургских домовладельцев, преимущественно из богатого купечества, Михаил Алексеевич Макаров быстро занял видное место среди русских зодчих, как мастер соединять красивость фасадов и вообще отделки зданий с их приспособленностью к тем целям, для которых они предназначены.
Из многочисленных построек, произведенных им в Санкт-Петербурге, в особенности заслуживают быть упомянутыми дома М. И. Лопатина, А. Г. Тройницкого, С. И. Крундышева, Лесниковых, Базилевского[уточнить], Громовой, И. И. Антонова, А. Ф. Паулучи, причта Исаакиевского собора, подворья Троицко-Сергиевой лавры, дом для князя Васильчикова, дом А. В. Липгарта.
Кроме того в период 1865—1867 годы он построил восемь дач в имении княгини Кушелевой «Лигово» и часовню для княгини Т. Д. Строгановой.
Им составлено немало архитектурных проектов и произведено построек по его службе в Опекунском совете; самым удачным произведением может считаться новое здание Санкт-Петербургского коммерческого училища (в Чернышовом переулке (улица Ломоносова). За это здание и за дом Лопатина Академия художеств в 1867 году наградила художника званием профессора. В 1868 году он был выбран членом строительного комитета при IV Отделении Собственной Его Величества Канцелярии. Состоял также в Хозяйственной Строительной Городской Комиссии и почетным членом детских приютов. Член Петербургского общества архитекторов с 1870 года.
Жизнь талантливого архитектора прервалась 19 ноября 1873 года, после пожара в доме Антонова, где жил Макаров. Похоронен он был на Никольском кладбище Александро-Невской лавры.