Начал заниматься биатлоном с 12 лет. Закончил Норвежский институт наук и технологий в Тронхейме. Первым крупным соревнованием Карла-Юхана Бергмана стал чемпионом мира среди юниоров 1996 года. В Кубке мира дебютировал лишь в 2001 году. Попал в состав национальной сборной по биатлону на Олимпиаду 2002 года, но каких-либо серьёзных результатов не показал. Первый подиум Кубка мира был в 2004 году, когда Бергман финишировал вторым в гонке преследования, уступив лишь Рафаэлю Пуаре. В последующем молодой биатлонист только улучшал свои результаты и сейчас стабильно входит в число тридцати лучших биатлонистов мира.