Иван Тихонович Гришин родился 16 декабря в деревне Внуковичи (ныне Рославльского района Смоленской области) в крестьянской семье. Русский.
В Красной армии — с 1920 года. В годы Гражданской войны курсантом 18-х пехотных курсов, участвовал в боях против отрядов А. С. Антонова. После окончания войны командовал взводом, ротой, служил в штабах различных степеней. В 1936 году окончил Военную академию имени М. В. Фрунзе, а в октябре 1940 года назначен командиром 137-й стрелковой дивизии.
Член КПСС с 1927 года.
В начале Великой Отечественной войны дивизия полковника Гришина в составе 13-й армии Западного фронта участвовала в Смоленском сражении. Умелые и решительные действия дивизии способствовали выходу армии из окружения. Вскоре дивизия под командованием Ивана Тихоновича вошла в состав 3-й армии и приняла участие в Орловско-Брянской оборонительной и Елецкой наступательной операциях.
С марта 1942 года — начальник штаба 50-й армии, а с апреля 1943 года — 11-й гвардейской армии.
В июне 1943 года Иван Тихонович Гришин назначен командующим 49-й армией, которой успешно командовал до конца войны. В составе Брянского и 2-го Белорусского фронтов 49-я армия участвовала в Смоленской, Оршанской, Витебской, Белорусской, Восточно-Прусской, Восточно-Померанской и Берлинской наступательных операциях. Армия отличилась при освобождении Могилёва и форсировании рек Днепр, Друть и Березина.
После войны генерал-полковник Гришин командовал 6-й гвардейской армией. С июля 1946 года — начальник Управления, а с февраля 1950 года — начальник Главного Управления боевой и физической подготовки сухопутных войск.
Иван Тихонович Гришин скоропостижно скончался 20 июня 1951 года в Москве. Похоронен на Новодевичьем кладбище.
Именем прославленного командарма названы улицы в Москве, Рославле и Могилёве.