Иван Панфилович Белов родился в деревне Колиничево Череповецкого уезда Новгородской губернии 15 июня 1893 года.
В 1913 году был призван в армию. Участвовал в Первой мировой войне в звании унтер-офицера. С февраля 1917 года — левый эсер. И. П. Белов был избран председателем солдатского комитета 1-го Сибирского запасного стрелкового полка в Ташкенте, которым командовал во время вооружённого восстания в Ташкенте в октябре 1917 года.
Член Ташкентского Совета в 1917—1919 годах, член Туркестанского ЦИК в 1918—1921 годах. В 1918 году — комендант крепости и начальник гарнизона Ташкента. Сыграл одну из ключевых ролей в подавлении в антисоветского мятежа в Ташкенте во главе с Осиповым в январе 1919 года. После подавления мятежа вышел из партии левых эсеров и вступил в партию большевиков.
С апреля 1919 года Белов был главком войск Туркестанской республики. В январе — июле 1920 года Белов был начальником 3-й Туркестанской стрелковой дивизии в Семиречье. В период с августа 1920 года по сентябрь 1921 года был командующий Бухарской группой войск, провел операцию против Бухарского эмирата.
В 1921—1922 годах — командир дивизии при подавлении мятежей на Кубани.
Окончил Высшие академические курсы (1923), после чего командовал стрелковым корпусом, был помощником командующего войсками Московского, затем Северкавказского военных округов.
С ноября 1927 года — командующий войсками Северокавказского военного округа.
С 1931 года — командующий войсками Ленинградского военного округа.
С 1935 года — командующий войсками Московского военного округа.
С июня 1937 года — командующий войсками Белорусского военного округа.
11 июня 1937 года принимал участие в суде над Тухачевским и др.
Крайне неосторожно повел себя Белов на заседании Военного совета при наркоме обороны 21 ноября 1937. Командарм не побоялся заявить, что «чистка» комсостава всех степеней повлекла за собой перерыв в боевой и политической подготовке войск. «…Было много перестраховочных представлений, было много слухов, — заявил Иван Панфилович, — когда люди сводили счёты, когда принимали за врага не того, кого надо. Люди, которых ни в партийном, ни в другом порядке не оценивали с плохой стороны, берутся органами НКВД».
7 января 1938 года арестован. Расстрелян 29 июня 1938 года.
И. П. Белов был реабилитирован 26 ноября 1955 года.