Был третьим сыном Густава I Васы от второй жены Маргареты (Эриксдоттер) Лейонхувуд. По завещанию отца (1560) получил во владение герцогство, в которое входил почти весь Сёдерманланд, бо?льшая часть Нерке, несколько приходов Вестманланда, часть херада Вадсбу в Вестергётланде и весь Вермланд. В возрасте всего лишь 15 лет командовал артиллерией при захвате Варберга в 1565 г. После участия в восстании против Эрика XIV, в котором он играл не последнюю роль, приобрёл значительно влияние в королевстве.
Вскоре после свержения Эрика Карл вступил в конфликт с Юханом III, который хотел ограничить его обширную власть в герцогстве. Поскольку риксрод поддержал короля, то Карлу пришлось уступить.
После смерти Юхана в 1592 г. и до прибытия в Швецию его сына Сигизмунда, ранее избранного польским королём, управление государством находилось в руках риксрода, в котором Карл играл роль «первейшего». С восшествием на престол нового короля над Швецией нависла угроза проведения контрреформации, поскольку Сигизмунд исповедовал католицизм. Карл всячески препятствовал этому, став одним из главных защитников протестантской веры.
После отъезда Сигизмунда в Польшу риксрод на время его отсутствия удостоил Карла титулом «первейшего лица Совета и регента государства». Когда же король выразил своё неудовольствие этим, Карл в 1595 г. собрал в Сёдерчёпинге риксдаг, на котором сословия подтвердили его полномочия, поручив наблюдать за выполнением Сигизмундом королевской клятвы, данной им при вступлении на престол. Однако противоречия с членами риксрода привели к их разрыву с герцогом Карлом.
На риксдаге, собравшемся в 1597 г. в Арбуге и бойкотировавшемся высшим дворянством (на нём присутствовал лишь один член риксрода), Карлу был предоставлены неограниченные полномочия как регента. Его разрыв с королём перешёл в открытую фазу после того, как он предпринял военные действия против замков, находившихся в руках ленников короля. Результатом этого стал массовый отъезд знати к королю в Польшу.
В 1598 г. Сигизмунд высадился в Швеции во главе войска, которое, однако, в битве у Стонгебру, состоявшейся 25 сентября, потерпело поражение от армии герцога. Король был вынужден выдать Карлу пятерых членов риксрода и вернулся в Польшу. В 1599 г. риксдаг низложил Сигизмунда.
Карл же воспользовался этой победой, чтобы расправится со своими противниками. На риксдаге в Линчёпинге, состоявшемся в 1600 г., был организован суд над взятыми в плен членами риксрода. Во главе суда стояли два верных герцогу члена Совета, что было нарушением договорённости с королём. В качестве обвинителя выступал сам герцог. Четверо обвиняемых признались в измене и были помилованы. Однако ещё четверо 29 марта 1600 г. были казнены («Линчёпингская кровавая баня»).
Тем не менее, герцог, верный завещанию отца, не спешил с принятием королевского титула, тем более что младший сын Юхана III герцог Эстрегётландский по праву стоял ближе к трону, нежели Карл. Лишь с 1603 г. он начинает использовать титул короля. Однако широко использоваться он стал лишь после того, как сын Юхана в 1604 г. отказался от притязаний на корону.
В 1607 г. Карл был коронован в Упсале под именем Карла IX.
В дальнейшем на внешнюю политику Карла IX династический вопрос продолжал оказывать значительное влияние, что привело к активизации Швеции на восточном направлении. Его попытка захватить Ливонию привела к ухудшению отношений с Данией, Голландией и Англией, торговля которых несла из-за военных действий убытки. В итоге, это вызвало между Данией и Швецией Кальмарскую войну (1611—1613), явившуюся неожиданностью для Карла и ставшую причиной приступа гнева и последующего удара, который ускорил его кончину.
Карл IX был погребён в кафедральном соборе Стренгнеса. Был дважды женат: в первый раз на Марии Пфальцской (1562—1589), во второй — на Кристине Гольштейн-Готторпской (1573—1625). От последней у него родились будущий король Густав II Адольф (1594—1632) и принц Карл Филипп (1601—1622), известный в русской истории как претендент на царскую корону.