Родился 2 августа 1900 года в селе Войново Болховского района Орловской области. В год его рождения семья переехала в Редкино Тверской губернии, в 1903 году вернулись в Войново.
18 июня 1918 года был призван в РККА. Служил в 20-м полку 3-й стрелковой дивизии (комдив — Солодухин). После месячного обучения воевал на Южном фронте с войсками Корнилова. В районе города Короча Курской губернии попал в окружение и плен, но бежал. Потом был ранен в ногу, лежал в госпитале в Туле. После ранения был зачислен в 27-ю сапёрную роту 9-го инженерного батальона. Воевал против Деникина и Врангеля на Южном фронте в Крыму. Дошёл до Керчи, потом через замёрзший пролив — на Северный Кавказ до Грозного.
С сентября 1921 по сентябрь 1922 года учился в Воронежской школе военно-железнодорожных техников.
С сентября 1922 года — начальник подрывной команды 4-го Коростенского Краснознамённого железнодорожного полка в Киеве (командир роты — Крюков Александр Евдокимович). С осени 1923 года по осень 1924-го учился в Ленинградской школе военно-железнодорожных техников. С осени 1924 года — командир роты 4-го Коростенского полка. Строили железную дорогу Орша — Лепель. Обучал подрывников на железной дороге. В 1925—1928 годы обучал загражденцев в Киеве. В 1929 году занимался подготовкой диверсантов в киевской школе Кочегарова. C 30 декабря 1930 года — в 4-ом отделе штаба Украинского военного округа, готовил партизан-диверсантов, одновременно занимался созданием и совершенствованием диверсионной техники. В 1931 году работал в школе у Кочегарова и Лисицина в Купянске, в Святошине. Готовил диверсантов, проводил мероприятия по подготовке к возможной партизанской войне.
С марта 1932 года — начальник разведпункта, литер А Украинского военного округа, готовил партизан-диверсантов в Тирасполе. С марта 1933 года — в Москве, сотрудник отдела Главного разведуправления при Генштабе Красной Армии. С сентября 1933 года по май 1935 года — учёба в военно-транспортной Академии Красной Армии, в период которой состоялся плодотворный диалог с единомышленником начальником кафедры военного искусства Академии Фрунзе Свечниковым М. С. .
С мая 1935 года — заместитель военного коменданта станции Ленинград-Московская. Встречал и сопровождал высокопоставленных лиц: К. Е. Ворошилова, Б. М. Шапошникова, М. Н. Тухачевского, В. К. Блюхера, В. М. Примакова. Жил в Ленинграде, по совместительству преподавал технику заграждений на дорогах в Военно-транспортном институте.
С ноябрь 1936 по ноябрь 1937 года — в Испании. Непосредственно подчинялся Я. К. Берзину и его заместителям Р. Я. Малиновскому, К. А. Мерецкову, Г. М. Штерну. Прошёл путь от советника диверсионной группы до советника 14-го партизанского корпуса (3000 чел.). Действовали в районе Теруэля, Сарагосы, под Мадридом и Барселоной. Обучал партизан минно-подрывному делу, технике и тактике диверсий. Организовал школы под Валенсией, в Хайене, готовил крупные диверсионные операции. Переводчица — А. К. Обручева — стала его женой.
В Испании провёл ряд операций:
В ноябре 1937 года Старинов сдал дела Кристапу Салныню и с шофёром выехал в Париж. Остановился в посольстве, затем из Бреста отплыл на пароходе в Ленинград. Возвращался с танкистом П. И. Липиным. В Ленинграде встретился с разведчиками, выехал в Москву. Встречался с и. о. начальника Главного разведуправления С. Г. Гендиным, был с ним на приёме у К. Е. Ворошилова. Вызывался в качестве свидетеля по делу своих репрессированных сослуживцев на допрос в НКВД. Чтобы избежать ареста Илья Григорьевич добивается личного приёма у Ворошилова, во время которого нарком звонит Ежову и приказывает не трогать Старинова.
С февраля 1938 года — начальник центрального научно-испытательного полигона железнодорожных войск на ст. Гороховец Горьковской железной дороги (начальник железнодорожных войск — генерал А. Е. Крюков). Испытывали железнодорожную и строительную технику.
С ноября 1939 года — начальник группы по разминированию на Карельском перешейке во время советско-финской войны. Подчинялся А. Е. Крюкову. 17 марта 1940 года был тяжело ранен снайпером в правую руку. Получил справку об инвалидности.
С 13 августа 1940 года — начальник отдела минирования и заграждений Главного военно-инженерного управления Красной Армии. В Нахабино готовили специалистов по заграждению и разминированию.
С 28 июня 1941 года — начальник оперативной группы заграждений на Западном фронте. С 13 июля по совместительству — начальник Оперативно-учебного центра Западного фронта. Подчинялся непосредственно командующему фронта Д. Г. Павлову, потом — А. И. Ерёменко. Занимались заграждениями.
В конце сентября — начальник оперативно-инженерной группы Юго-Западного фронта. В его распоряжении находилось 5 батальонов и 5 оперативных групп. Осуществляли заграждения, производили минирование железных и автомобильных дорог, особо важных объектов под Харьковом и в Харькове. Старинов непосредственно подчинялся Военсовету фронта. Уничтожили штаб 58-й дивизии во главе с генерал-лейтенантом Георгом фон Брауном и подорвали на мине генерал-лейтенанта Бейнекера.
С 17 ноября 1941 года — заместитель начальника штаба инженерных войск Красной Армии (начальник штаба — К. С. Назаров). Производили минирование, устройство заграждений, разрушение мостов, дорог под Москвой, на Калининском и Западном фронтах — от Серпухова до Калинина.
С декабря 1941 года — начальник оперативно-инженерной группы на Южном фронте под Ростовом. В распоряжении имел пять батальонов. Устанавливали заграждения, минировали. Мины производили в мастерских Ростовского государственного университета. В феврале 1942 года — ледовые походы через Таганрогский залив.
С апреля 1942 года — командир 5-й отдельной инженерной бригады спецназначения на Калининском фронте в районе Торжка. В распоряжении — 5 батальонов (около 4 тысяч солдат и офицеров). Производили устройство противопехотных и противотанковых полос от Ржева до Сурожа — всего около 400 км.
В августе 1942 года назначен начальником Высшей оперативной школы особого назначения Центрального штаба партизанского движения (ЦШПД), находившейся в распоряжении главнокомандующего партизанским движением К. Е. Ворошилова. Школа располагалась на ст. Быково. Готовили специалистов и командиров высшего класса, планировали операции, испытывали новую диверсионную технику.
С сентября 1942 года — помощник начальника штаба по диверсиям у П. К. Пономаренко. Составлял инструкции, разрабатывал планы операций. Был в командировках на Кавказе, в Ростове и Новороссийске. Организовывал партизанские операции.
С 18 марта 1943 года — член Военного совета Юго-Западного фронта. Организовывал обучение партизанских групп для заброски в тыл врага.
С мая 1943 года — заместитель начальника Украинского штаба партизанского движения по диверсиям Т. А. Строкача. Создавал диверсионные службы в штабе и в партизанских соединениях.
С апреля 1944 года — заместитель начальника польского Штаба партизанского движения А. Завадского. Занимался организацией партизанской борьбы, взаимодействием с советскими партизанами на границе с Польшей. В это время за написанную до войны диссертацию получил звание кандидата технических наук.
С июня 1944 года — начальник штаба советской миссии в Югославии (располагались в Бухаресте). Занимались организацией взаимодействий Советской Армии и Национально-освободительной Армии Югославии (НОАЮ). Много раз встречался и беседовал с маршалом Тито.
С февраля 1945 года — начальник оперативно-инженерной группы по разминированию автомобильных и железных дорог на освобождаемой территории Германии. Подчинялся маршалам Р. Я. Малиновскому и И. С. Коневу. Работали севернее Будапешта, в районе Потсдама, в городах на Рейне.
День Победы встретил в Берлине.
С мая 1945 года — в Москве. Работал в Центральном партийном архиве, Военном архиве КГБ. С ноября 1945 года — заместитель начальника 20-го управления железнодорожных войск Советской Армии во Львове. Осуществлял разминирование и восстановление железных дорог. Участвовал в борьбе с бандеровцами.
С сентября 1946 года — начальник кафедры тыла Военного института МВД. С 1949 года — начальник оперативно-тактической группы партизанской борьбы. С января 1956 года — в отставке.
С 1957 года — старший научный сотрудник Института марксизма-ленинизма. Принимал участие в написании шеститомной истории Великой Отечественной войны. С 1964 года — преподаватель тактики диверсий на Курсах усовершенствования офицерского состава (КУОС). В 1984 году присвоено звание профессора. До 1987 года преподавал в учебных заведениях КГБ.
Скончался на 101-м году жизни и похоронен на московском Троекуровском кладбище.
Серьёзным вкладом в военную теорию и практику сам Старинов считал следующее:
Обученные непосредственно Стариновым инструкторы в предвоенные годы подготовили свыше 1000 квалифицированных партизан. В годы Великой Отечественной войны обученные им же инструкторы подготовили в различных школах свыше 5 000 партизан-диверсантов. Только в Оперативно-учебном центре Западного фронта было обучено 1600 человек.
В Испании:
Во время Великой Отечественной войны:
Стариновым написаны пособия, в том числе совершенно секретные, по вопросам ведения партизанской войны, которые использовались при обучении партизан.