Джованни Паоло был незаконным сыном миланского герцога Лодовико Мария Сфорца и Лукреции Кривелли. В 1513 году, когда его брат Массимилиано на короткое время восстановил правление семейства Сфорца в Милане, то Джованни Паоло принял участие в обороне Новары от французов. Когда в 1525 году аналогичную попытку предпринял другой его брат, Франческо II Мария Сфорца, то Джованни Паоло был осаждён в Кастелло Сфорцеско испанскими войсками под руководством Антонио де Лейва. Три года спустя он был осаждён в Лоди, и на этот раз — успешно.
В 1532 году, после того как в Болонье был подписан мир между Франческо и Карлом V, Джованни Паоло получил в награду титул маркиза Караваджо. Три года спустя, после смерти Франческо, он отправился в находившееся тогда под властью Испании Неаполитанское королевство, чтобы предъявить свои права на Миланское герцогство, однако на полпути, во Флоренции, умер при странных обстоятельствах. Ходили слухи, что он был отравлен по приказу Де Лейва.