Иван Шувалов родился в небогатой дворянской семье. Получил домашнее образование.
Благодаря покровительству двоюродных братьев, Александра и Петра Шуваловых, участников дворцового переворота 1741 г., Иван Шувалов оказался при императорском дворе. В 1742 году начал придворную службу в качестве пажа. В 1749 году получил звание камер-юнкера. Вскоре сделался фаворитом императрицы Елизаветы Петровны.
В 1750-х Шувалов имел заметное влияние на внутреннюю и внешнюю политику России, содействовал развитию русской науки и искусства, оказывал покровительство учёным, писателям и художникам. В числе прочего он поддерживал многие начинания М. В. Ломоносова. Под его покровительством в 1755 году был основан Московский университет (Шувалов стал его первым куратором), а в 1757 году создана Академия художеств (Шувалов был её президентом до 1763).
После воцарения Екатерины II И. И. Шувалов оказался в опале. С 1763 по 1777 годы он находился за границей (официально — в отпуске «по болезни»), выполнял ряд дипломатических и других поручений русского правительства. Попутно занимался собиранием коллекции произведений искусства. Впоследствии передал свою коллекцию Академии художеств и Эрмитажу. Вернувшись в Россию, в политической жизни активно не участвовал.
И. И. Шувалову принадлежало имение в селе Байково (Кесовогорский район Тверской области).
Особняк Шувалова (Малая Садовая, 1/Итальянская, 25) был построен в 1749-1756 годы архитектором С. И. Чевакинским. С 1802 по 1917 год здесь находилось Министерство юстиции Российской империи.
Имя Шувалова носят: