Родился 31 декабря 1855 году, учился в Екатеринбургской и Пермской гимназиях. В 1881 году окончил юридический факультет Императорского Санкт-Петербургского университета. Был доцентом, потом экстраординарным профессором истории русского права в Дерптском (Юрьевском) университете.
Защитил в 1889 году магистерскую диссертацию «Власть московских государей». В 1900 году в Санкт-Петербургском университете защитил диссертацию на степень доктора «Очерки из истории сельского населения в Московском государстве (XVI—XVII вв.)». В 1905 году был избран ординарным профессором в Петербургский Политехнический институт на кафедру истории русского права. С 1907 года Михаил Александрович преподавал в Санкт-Петербугском университете, до тех пор, пока не отказался от чтения лекций вследствие болезни в 1912 году. Также М. А. Дьяконов проводил частные юридические курсы при Женской гимназии М. Н. Стоюниной.
Адъюнкт по Историко-филологическому отделению (история и древности русские) Академии Наук с 3 сентября 1905 года, экстраординарный академик с 10 января 1909 года, ординарный академик с 1 июля 1912 года Работал в 1918—1919 годах в Библиотеке Академии Наук библиотекарем II Отделения.
Михаил Александрович Дьяконов скончался в 1919 году и был похоронен на Смоленском православном кладбище.
Магистерская диссертация «Власть московских государей» (СПб., 1889) является одним из основных в нашей историко-юридической литературе трудов по истории политических идей и теории верховной власти в Древней Руси. Подробный критический разбор этого труда дан по поручению академии профессором С. М. Шпилевским, в «Отчете о 33-м присуждении наград графа Уварова».
Последующие труды М. А. Дьяконова сосредоточились на истории тяглого населения Московской Руси. Результатом исследований в этой области был сначала ряд отдельных этюдов, напечатанных в «Журнале Министерства Народного Просвещения»: «К истории крестьянского прикрепления» (1893, № 6), «Половники поморских уездов» (1895, № 5), «Бобыли XVI—XVII веков» (1896, № 4), «Задворные люди» (1897, № 12). Все эти этюды, дополненные новыми исследованиями, составили докторскую диссертацию «Очерки из истории сельского населения в Московском государстве» (СПб., 1898). Приложением к этому исследованию являются «Акты, относящиеся к истории тяглого населения в Московском государстве» (2 выпуск, Юрьев, 1895 и 1897), содержащие новый и ценный архивный материал. М. А. Дьяконов выступал критиком некоторых крупных произведений историко-юридической литературы (рецензии на сочинения: И. Я. Гурлянда «О ямской гоньбе», В. И. Сергеевича «Древности русского права», т. III, Ю. В. Готье «Замосковный Край» и др.).
Последний большой труд М. А. Дьяконова: «Очерки общественного и государственного строя Древней Руси до конца XVII века» (Юрьев, 1907; 4 издание, СПб., 1912) представлял обработку общего курса истории русского права, читавшегося в высших учебных заведениях дореволюционной России.