Родился на хуторе Колотовка, ныне Цимлянского района Ростовской Области в семье донского казака.
На военной службе с 1915 года. В Первую мировую войну воевал рядовым на Северо-Западном фронте. С октября 1917 года в Красной Армии. В Гражданскую войну командир взвода, помощник командира 2-й бригады 4-й кавдивизии, командир эскадрона, командир полка и 2-й бригады 14-й кавдивизии в составе 1-й Конной Армии. В 1920 году временно исполнял дела командира 16-й кавалерийской дивизии.
В 1922—1929 годах командир кавалерийской бригады в Северо-Кавказском военном округе. Параллельно окончил подготовительные курсы при Военной Академии РККА имени М. В. Фрунзе в 1923 году, курсы усовершенствования высшего комсостава в 1925 году. С 1930 по 1933 годы командир 8-й отдельной кавалерийской бригады, участник борьбы с басмачами. В 1935 году окончил Военную Академию РККА имени М. В. Фрунзе. С 1936 года командир 13-й Донской казачьей дивизии. С сентября 1937 года командир 1-го кавалерийского корпуса. В июне 1938 1-й кавалерийский корпус переименован в 4-й кавалерийский корпус. До начала лета 1940 года командовал 4-м кавалерийским корпусом, дислоцировавшимся в Киевском Особом военном округе. C 4 июня 1940 года был назначен командиром 8-го мехкорпуса, созданного из частей 4-го кавалерийского корпуса, 7-й стрелковой дивизии, 14-й тяжёлой и 23-й лёгкой танковых бригад.
В период Приграничного сражения начала войны участвовал в контрударе 8-го мехкорпуса под Луцком, Дубно и Бродами. С 22 июля 1941 по 15 августа командующий 38-й армией, с 30 августа по 5 октября — Южным фронтом. С 22 октября командующий 57-й, с 8 мая по 4 июля 1942 — 28-й армиями. С 3 июля 1942 по март 1943 выполнял задания Ставки ВГК. С марта по май 1943 командующий 3-й резервной армией. С мая 1943 года заместитель командующего 3-й гвардейской армией, с 28 января 1944 командир 34-го гвардейского стрелкового корпуса. С 16 февраля по 29 марта 1944 командующий 3-й гвардейской армией. С 12 апреля по 27 мая 1944 командир 3-го гвардейского стрелкового корпуса. С 18 июля 1944 и до конца войны командир 114-го стрелкового корпуса. Войска под его руководством участвовали в освобождении Донбасса, Украины, в Восточно-Прусской и Берлинской операциях.
После войны командовал корпусом в Группе советских войск в Германии, с сентября 1946 года заместитель, затем помощник командующего войсками Восточно-Сибирского военного округа. С сентября 1950 года в запасе. Жил в Ростове-на-Дону, где возглавлял Совет ветеранов войны. Писал работы, опубликованные в Военно-историческом журнале, журнале «Дон», отдельных сборниках, а также статьи, использовавшиеся в качестве учебных пособий в высших военно-учебных заведениях.
Под командованием Дмитрия Ивановича служил его брат, майор Илья Иванович Рябышев — командир сводного мотострелкового полка 38-й армии.