Родился в селе Новоселовка ныне Пролетарского района Ростовской области. Из крестьян. Окончил сельскую двухлетнюю школу в 1910 году. С 1905 года работал по найму, с 1910 года - ученик столяра, с 1912 года - столяр на предприятиях в своем уезде.
В 1914 году призван в Русскую императорскую армию, участник Первой мировой войны на Румынском фронте, старший унтер-офицер. В ноябре 1917 года покинул армию, вернулся на родину и вступил в красный партизанский отряд, действовавший в на территории Области Войска Донского, с января 1918 года - командовал в нём взводом. Активный участник Гражданской войны. В Красной Армии с октября 1918 года, когда его отряд влился в регулярную армию, назначен заместителем командира эскадрона 1-го Советского Социалистического кавалерийского полка, в 13-и и 19-м кавалерийских полках 4-й кавалерийской дивизии. С июня 1919 года командовал эскадроном. Член КПСС с 1919 года. С сентября 1919 года воевал в составе 1-й Коннной армии, заместитель командира 1-й кавалерийской бригады, с октября этого года - командир эскадрона в этой бригаде 4-й кавалерийской дивизии. С ноября 1920 года командовал 19-м кавалерийским полком в той же дивизии. До 1924 года продолжал службу в 1-й Конной армии на Северном Кавказе - с 1921 года командовал кавалерийским дивизионом, с 1923 года - заместитель командира полка. Участвовал в боевых действиях против войск генералов П. Н. Краснова, А. И. Деникина, П. Врангеля, армий Германии, Австро-Венгрии и Польши, формирований Н. Махно и многочисленных бандформирований и крестьянских восстаний. В Гражданской войне был 5 раз ранен и 2 раза контужен.
Окончил кавказские курсы (1921), Высшую кавалерийскую школу в Ленинграде (1924), Военную академию имени М. В. Фрунзе (1935). С октября 1924 года - заместитель командира, с июня 1926 года командир и комиссар кавалерийского полка, затем отдельного кавалерийского эскадрона в 4-й кавалерийской дивизии. С августа 1927 года - командир и комиссар 91-го кавалерийского полка 12-й кавалерийской дивизии, с ноября 1931 года - командир и комиссар 76-го Краснознамённого кавалерийского полка 12-й кавалерийской дивизии. С декабря 1935 года командовал 63-м кавалерийским полком в Московском военном округе. С апреля 1936 года - заместитель командира 31-й кавалерийской дивизии, с июня 1937 года - её командир. С марта 1938 года - командир 3-го кавалерийского корпуса Западного Особого военного округа и армейской кавалерийской группой. С июля 1940 года - командующий войсками Одесского военного округа.
Участник Великой Отечественной войны. Во время войны командовал 9-й (июнь — 29 сентября 1941 года), затем 21-й армиями (29 сентября — 4 октября 1941 года) на Южном фронте. Участвовал во главе армии в оборонительной операции в Молдавии и оборонительных сражениях на юге Украины (Тираспольско-Мелитопольская оборонительная операция), в ходе которых советские войска с тяжёлыми боями вынуждены были отступать. В сентябре 1941 года находился распоряжении Главнокомандующего Юго-Западным стратегическим направлением Маршала Советского Союза С. К. Тимошенко и по его приказу огранизовывал оборону на харьковском направлении. С 5 октября по 24 декабря 1941 года — командующий Южным фронтом, войска которого вынуждены были оставить Донбасс в ходе в Донбасской оборонительной операции, затем провели Ростовскую оборонительную операция, а 28 ноября 1941 года освободили Ростов-на-Дону в ходе Ростовской наступательной операции, что стало одной из первых крупных побед Красной Армии в 1941 году. С 24 декабря 1941 по 2 апреля 1942 года командовал Брянским фронтом, войска которого участвовали в контрнаступлении под Москвой, освободив Ливны, Верховье, Новосиль, Чернь, Скуратово, Орловку, Горбачёво и ряд других населённых пунктов и выйдя на дальние подступы к Орлу и Брянску. С апреля 1942 года — заместитель командующего войсками Северо-Кавказского направления, затем Северо-Кавказского фронта, с сентября 1942 года - командующий Приморской группой войск Северо-Кавказского фронта и Черноморской группой войск Закавказского фронта, войска которой участвовали в Битве за Кавказ. С октября 1942 по февраль 1943 года командовал 5-й армией Западного фронта, с февраля по апрель был в распоряжении Ставки Верховного Главнокомандования, в апреле-сентябре 1943 года — заместитель командующего Северо-Западным фронтом, с сентября 1943 по январь 1944 года — командующий войсками Харьковского военного округа. С января 1944 — в распоряжении Ставки ВГК, был в распоряжении Военных советов 2-го Белорусского (июнь - декабрь 1944) и 1-го Белорусского (февраль-апрель 1945) фронтов. С 27 апреля 1945 года — командир 7-го стрелкового корпуса, принимавшего непосредственное участие в штурме Берлина.
После окончания Великой Отечественной войны командовал 79-м Берлинским стрелковым корпусом. В этой должности подписал представление младшего лейтенанта Алексея Береста, под руководством которого Михаил Егоров и Мелитон Кантария водрузили Знамя Победы над Рейхстагом, к званию Героя Советского Союза. С июня 1946 года командовал 29-м стрелковым корпусом, с 1948 года - помощник командующего войсками Таврического военного округа. С апреля 1950 - в отставке. Вёл большую военно-патриотическую работу, был председателем совета ветеранов 1-й Конной армии.
Депутат Верховного Совета СССР 1-го созыва (1941—1946). Кандидат в члены ЦК КПСС в 1941—1947.