Родился в 1767 году на Дону и в 1776 году был записан в службу есаулом. После продолжительной службы на линиях Царицынской (1776—1778 гг.), Бугской (1781—1782 гг.) и Кавказской (1784—1786 гг.), во время которой ему неоднократно приходилось бывать в пограничных делах, Иловайский принял участие во 2-й турецкой войне и отличился при Фокшанах, Рымнике (получил чин премьер-майора) и штурме Измаила, где был тяжело ранен (получил чин подполковника), и в поражении турок у Мачина. Произведённый 14 октября 1794 г. в полковники и 30 октября 1798 г. в генерал-майоры, Иловайский в том же году покинул службу и вернулся лишь в 1808 г. с назначением непременным членом войсковой канцелярии. Назначенный в 1812 г. походным атаманом Донских казачьих полков, Иловайский принял участие в Отечественной войне: под Малоярославцем он захватил у неприятеля 11 пушек и до 200 пленных; у Колоцкого монастыря принудил неприятеля оставить 26 орудий со снарядами и несколько сот ружей. Затем он с успехом участвовал в сражениях под Гжатском, Вязьмой, Дорогобужем, Духовщиной (где отбил 36 орудий), при занятии Ярцевой переправы, города Ковны и в преследовании неприятеля до Данцига. За боевые отличия в эту войну Иловайский был награждён 25 марта орденом св. Георгия 3-й степени за № 283
А 26 марта получил орден св. Георгия 4-й степени за № 1190
В 1813 г. Иловайский в заграничном походе и участвовал во взятии Эльбинга, Мариенвердера и Мариенбурга, находился при блокаде Штетина, Торгау и Магдебурга и был в сражении при Денневице. В 1820 г. Иловайский был назначен членом комитета для устройства Донского казачьего войска, 31 января 1821 г., произведённый 20 сентября 1821 г. в генерал-лейтенанты — наказным атаманом этого войска, с 1823 по 1827 г. Иловайский состоял войсковым атаманом Донского войска и 7 июня 1827 г. был снят со своей должности за критику генерал-адъютанта Чернышёва, окончательно вышел в отставку 12 сентября 1831 г.
Среди прочих наград имел ордена св. Александра Невского, св. Владимира 2-й степени, св. Анны 1-й степени, два прусских ордена — Красного Орла 2-й степени и «Pour le M?rite», а также золотую саблю с надписью «За храбрость».
Умер в Новочеркасске 28 января 1842 года.
В Ростове-на-Дону одна из улиц города носит имя героя.