Военную службу начал 4 января 1789 казаком, 4 октября того же года получил чин сотника. 3 июля 1799 года произведен в полковники. В 1807 году впервые принял участие в боевых действиях против французов при Гутштадте и Гейльсберге (награжден орденом Св. Георгия 4-го класса). 12 декабря пожалован в генерал-майоры. В 1808 году назначен командиром лейб-гвардейского Казачьего полка и вместе с ним воевал со шведами в 1808—1809 годах.
31 января 1811 года удостоен звания генерал-адъютанта. В 1812 году находился в арьергарде и был контужен. В бою при Лубине удачно командовал 1-м кавалерийским корпусом. В Бородинской битве, во время рейда кавалерии М. И. Платова и Ф. П. Уварова, возглавлял первую атаку трёх конных полков на пехоту противника. В сражении при Тарутине начальствовал первой колонной. Плодами внезапной атаки его конницы стали все захваченные в этот день российские трофеи (награжден орденом Св. Георгия 3-го класса). Участвовал в боях под Малоярославцем, Гжатском, Ляховым, Красным, Вильной.
В 1813—1814 годах командовал конвоем Императора Александра I и находился при нём под Люценом, Бауценом, Дрезденом, Кульмом. 15 сентября 1813 года получил чин генерал-лейтенанта. Отличился в Лейпцигском сражении, где ударил с казаками во фланг неприятельским кавалерийским массам, стремившимся прорвать центр российской армии.
В 1824 году назначен командиром 5-го резервного кавалерийского корпуса, 22 августа 1826 года произведён в генералы от кавалерии. В 1827 году оставил службу, но, когда была объявлена война Турции, снова поступил в войска и состоял при главной квартире государя.
Был похоронен в усыпальнице Покровского монастыря Харькова. 4 сентября 1911 года его прах был перенесен в Новочеркасск в усыпальницу Вознесенского войскового собора.
Отец Василий Петрович Орлов (1745—1801) Мать Дарья Фёдоровна, урождённая Денисова
Супруга С 29 сентября 1805 года графиня Мария Алексеевна Васильева (1784—1829) (дочь Алексея Ивановича Васильева (1742—1807) и Варвары Сергеевны Урусовой (1751—1831)
Дети ( 6 сыновей и 3 дочери)