Иван Григорьевич Большаков родился в деревне Московская слобода, в Тульской губернии в 1902 году в семье мещанина.
В 1916 году, в возрасте 14 лет, Большаков пошел на работу в Тульский оружейный завод, работал сначала становщиком, потом кабельщиком. В 1922 году поехал в Москву, поступил в Московское высшее техническое училище на рабочий факультет, где учился до 1924 года. После чего Иван Григорьевич пошел учиться в Московский институт имени Плеханова, который окончил в 1928 году. Впоследствии он еще получил образование в экономическом институте красной профессуры в 1931 году.
Еще во время учебы в институте Большаков работал инструктором райкома профсоюзов металлистов, а с 1927 года во Всесоюзном центральном совете профессиональных союзов служил секретарем бюро пролетарского студенчества.
Окончив Московский институт, Большаков стал слушателем экономического института красной профессуры, одновременно работая в ВЦСПС. С 1931 года, получив образование экономического института, Большаков поступил на работу в Совет Народных комиссаров СССР консультантом управления делами. В 1937 году его назначили заместителем управляющего делами СНК, а через год он уже стал управляющим, прослужив в этой должности два года.
В 1939 году Большакова назначили председателем Комитета по делам кинематографии при совнаркоме. После того, как в1946 году Комитет был преобразован в Министерство кинематографии, Большаков стал министром кинематографии, получив руководство над кинопроизводством в СССР. Его задачей было допускать только те фильмы, которые выполняли идеологическую функцию. На должности министра кинематографии Большаков пробыл достаточно долгий срок, что было очень редко при Сталине. Это объясняется качествами министра: он был идеальным исполнителем, а также не имел привычки подставлять своих подчиненных к ответу, что было довольно распространено в то время. Большаков не участвовал в различных политических играх, и это пошло только на его пользу. После смерти Сталина министерство кинематографии стало входить в министерство культуры, и Большаков остался в нем в ранге заместителя министра.
В 1950 году Иван Григорьевич получил степень кандидата искусствоведческих наук. С 1953 года Большаков был заместителем министра внешней торговли. В 1960 году получил должность председателя государственного комитета Совета Министров по культурным связям с другими странами. В 1963 году Иван Григорьевич Большаков вышел на пенсию. Умер в 1980 году и похоронен в Москве на Новодевичьем кладбище.
Большаков был награжден двумя орденами Ленина и орденом Трудового Красного Знамени.