Православный, сын тайного советника. Окончил 6-ю петербургскую гимназию и историко-филологический факультет Санкт-Петербургского университета (1899) с золотой медалью. Был оставлен на кафедре славянской филологии для подготовки к профессорскому званию.
С 1 мая 1901 по 1 мая 1903 находился в заграничной командировке для продолжения образования, слушал лекции в университетах Праги, Лейпцига и Вены и занимался в архивах.
Преподавал там же, затем в университетах Харькова, Юрьева (1916-1920), Саратова (1920-1928), Казани, Москвы. Профессор с 1909 г., доктор филологии с 1911 г. (диссертация «Грамоты болгарских царей» удостоена Ломоносовской премии РАН).
Член-корреспондент Российской Академии наук с 1921 г., академик Болгарской (с 1929 г.) и Польской (с 1930 г.) академий наук.
Основные труды Ильинского связаны с древней историей славянских языков. Его фундаментальная 600-страничная «Праславянская грамматика» (Нежин, 1916) заложила основы современных представлений о праславянском языке. Ильинский также много выступал в качестве публикатора памятников славянской письменности XI—XIII вв.
11 января 1934 г. был арестован по сфабрикованному НКВД делу «Русской национальной партии», осужден на 10 лет лагерей и отправлен на Соловки. Затем тюрьма была заменена ссылкой, в 1936 г. Ильинский был освобождён и поселился в Томске, где заведовал библиотекой Музея Краеведения. В 1937 г. был арестован повторно и расстрелян. Значительная часть поздних научных работ Ильинского безвозвратно утрачена.