Родился 17 марта 1896 года в селе Поляны ныне Рязанского района Рязанской области в крестьянской семье. Русский. Член ВКП(б)/КПСС с 1919 года. Окончил 7 классов.
С августа 1915 года служил в русской армии рядовым и старшим унтер-офицером. Участник 1-й мировой войны. С марта 1917 года на фронте.
В августе 1918 года добровольно вступил в Красную Армию.
В Гражданскую войну в должности командира взвода участвовал в боях против войск генерала Мамонтова, банд Махно и Антонова.
В 1920 году окончил 1-е Рязанские Советские пехотные курсы командного состава РККА.
В 1931 году он окончил курсы «Выстрел».
В 1932 году — Ленинградские бронетанковые курсы усовершенствования командного состава имени А. С. Бубнова.
В 1935 году учился на курсах усовершенствования при Военной академии механизации и моторизации РККА. Командовал 10-м механизированным полком. С 1937 — 10-й механизированной бригадой.
Участник боёв на реке Халхин-Гол с 9 августа по 16 сентября 1939 года. Командовал 20-м танковым корпусом (1-я армейская группа).
Участвует в советско-финской войне. Командует 19-м стрелковым корпусом.
С 1940 по 1941 командует 5-м механизированным корпусом.
С апреля 1941 г. по декабрь 1945 г. генерал-лейтенант танковых войск Терёхин М. Ф. командовал 2-й Краснознамённой армией на Дальнем Востоке.
После войны М. Ф. Терёхин был помощником командующего войсками Белорусского и Северного военных округов. В 1949 году он окончил Высшие академические курсы при Военной академии Генерального штаба имени К. Е. Ворошилова.
С 1954 года в запасе. Жил в городе Рязани, где скончался 30 марта 1967 года.
Именем Героя названа улица в селе Поляны Рязанской области.