Родился 6 декабря 1914 года в селе Сулак Краснопартизанского (бывшего Чапаевского) района Саратовской области в семье крестьянина. Русский.
Окончил школу-семилетку и школу ФЗО. Работал литейщиком на заводе в городе Горловке.
В военно-морском флоте с 1931 года. Окончил курсы усовершенствования командного состава (КУКС) в 1938 году. Член ВКП(б)/КПСС с 1943 года.
Участник Великой Отечественной войны с июня 1941. Командир 3-го отряда торпедных катеров гвардии капитан-лейтенант Иван Иванов в июне 1944, обнаружив дозорный отряд врага в Нарвском заливе, дивизионом атаковал его и потопил 2 тральщика. К июлю 1944 его отряд потопил 11 боевых катеров и 2 транспорта противника.
Капитан 3 ранга Иванов погиб 26 августа 1944 в бою в Нарвском заливе. Похоронен в Кронштадте (Административный район Санкт-Петербурга).