Окончил Санкт-Петербургский институт путей сообщения. Ученик Н. А. Белелюбского. Первая работа Н. М. Абрамова относится к 1904 году и посвящена расчёту фермы-аркады системы А. Vierendeel`s. Она была опубликована в изданиях Института инженеров путей сообщения Императора Александра I. В дальнейшем Николай Матвеевич занимался вопросами методики преподавания строительной механики, уделяя особое внимание физико-математической подготовке студентов к изучению сопротивления материалов.
С 1907 года — профессор Донского политехнического института в Новочеркасске по кафедре строительной механики, автор трудов по испытанию материалов. В 1917 и 1918 годах работал ректором Донского политехнического института.
Член постоянного Бюро съездов русских цементных техников и заводчиков. Участвовал в работе XII съезда русских естествоиспытателей и врачей в Москве (1909?1910). Заслуженный профессор Харьковского технологического института (1928?1929), декан инженерно-строительного факультета ХТИ (1929). Действительный член Украинского общества работников науки и техники (1929).
С 1936 по 1939 годы — заведующий кафедрой Сибирского государственного университета путей сообщения.
С 1939 по 1947 годы — заведующий кафедрой сопротивления материалов Института инженеров-механиков социалистического земледелия.
Принимал участие в деятельности Русской Православной Церкви:
Некоторые труды Абрамова Н. М.: