Родился 21 августа 1902 года в деревне Крутец (ныне Рыбинского района Ярославской области) в крестьянской семье. Русский. Окончил 4 класса. Работал в хозяйстве родителей. С 1919 года работал на речном транспорте матросом, кочегаром парохода, помощником шкипера баржи.
В Военно-Морском Флоте с 1924 года. Член ВКП(б)/КПСС с 1928 года. В 1932 году окончил Военно-морское училище имени М. В. Фрунзе, в 1935 году — Курсы усовершенствования командного состава подводного плавания имени С. М. Кирова. Участвовал в советско-финляндской войне 1939-40 годов.
Участник Великой Отечественной войны с первого её дня. 22 июня 1941 года командир дивизиона бригады подлодок Северного флота капитан 3-го ранга И. А. Колышкин вышел в свой первый боевой поход на Щ-401 (командир — капитан-лейтенант А. Е. Моисеев).
По советским источникам, с начала войны по январь 1942 года подводные лодки дивизиона под командованием капитана 2-го ранга Колышкина И. А. потопили 8 транспортов и сторожевых кораблей противника общим водоизмещением 72,5 тысячи тонн.
Указом Президиума Верховного Совета СССР от 17 января 1942 года за успешное командование вверенным дивизионом и проявленные мужество и героизм Колышкину Ивану Александровичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 655). Он стал первым Героем не только на подплаве Северного флота, но и первым из моряков-подводников, награждённых во время Великой Отечественной войны «Золотой Звездой».
В апреле 1942 года Колышкин участвовал в последнем походе Щ-421.
С 1943 года и до конца войны Колышкин — командир бригады подводных лодок Северного флота. В 1944 году ему присвоено воинское звание «контр-адмирал». Под его командованием бригада 24 июля 1943 года была награждена орденом Красного Знамени, став первым в советском ВМФ Краснознамённым соединением подводных лодок. А 3 ноября 1944 года она была награждена орденом Ушакова 1-й степени, и стала первым, и до сих пор единственным, дважды орденоносным соединением подводных лодок в отечественном Военно-Морском флоте.
В 1950 году контр-адмирал И. А. Колышкин окончил Военную академию Генерального штаба. Был начальником Высшего военно-морского училища. С 1959 года — в отставке. Умер 18 сентября 1970 года. Похоронен в Москве на Новодевичьем кладбище.
Написал книгу «В глубинах полярных морей» (2-е изд., испр. и доп. М., 1970).
Награждён двумя орденами Ленина, пятью орденами Красного Знамени, орденами Ушакова 2-й степени (№ 29), Красной Звезды, медалями.
Именем Героя были названы суда Министерства рыбного хозяйства СССР и Министерства речного флота РСФСР, улицы в городах Заозерске и Североморске.
В городе Ярославле в музее школы 55 создана экспозиция памяти Колышкина Ивана Александровича.
Бригада подводных лодок, которой командовал в годы Великой Отечественной войны Герой Советского Союза Колышкин, стала основой, на базе которой 15 марта 1951 года была сформирована 33-я Краснознамённая ордена Ушакова 1-й степени дивизия подводных лодок СФ в составе 3-х бригад. 15 июля 1961 года эта дивизия была преобразована в 4-ю Краснознамённую ордена Ушакова 1-й степени эскадру подводных лодок Северного флота в составе 4-х бригад, а после распада СССР, в сентябре 1995 года — реорганизована в 40-ю Краснознамённую ордена Ушакова 1-й степени дивизию подводных лодок в составе Кольской флотилии разнородных сил Краснознамённого Северного флота. В декабре 2001 года 40-я дивизия переформирована в 161-ю Краснознамённую ордена Ушакова 1-й степени бригаду подводных лодок Краснознамённого Северного флота.