В 1608 году женился на австрийской принцессе Марии Магдалене (1589—1631), дочери эрцгерцога австрийского Карла II. На следующий год, после смерти отца, он вступил на трон Тосканского герцогства.
У Козимо и Марии Магдалены родились восемь детей: пять сыновей и три дочери. Двое из числа сыновей стали кардиналами.
В 1610 году герцог Козимо пригласил Галилея вернуться во Флоренцию, предоставив ему почётное и хорошо оплачиваемое место своего советника и личного представителя. Галилей также руководил обучением многочисленных детей герцогской четы. Из других событий его правления историки отмечают личное способствование заключению брака Людовика XIII с Анной Австрийской и успешные военно-морские кампании против Османской империи.
Правление Козимо II продолжалось недолго. Он страдал язвой желудка, к которым вскоре прибавились туберкулёз и артрит. Герцог скончался в возрасте 31 года; это событие породило обычные для того времени, но ничем не подтверждённые слухи об отравлении. Новым герцогом стал его 11-летний старший сын Фердинанд (1621); до его совершеннолетия (1628) провинцией управляла герцогиня-мать.
Фердинанд I, отец Козимо II
Кристина Лотарингская, мать Козимо II
Мария Магдалена Австрийская, супруга Козимо II