Он был вторым сыном Карла Великого и первым сыном от его второй (согласно источникам, первой или третьей) жены Хильдегарды из Винцгау. После того как Карл Великий поделил империю между своими сыновьями, Карл Юный в 800 году получил титул Короля Франков. Карл был увенчан короной короля франков в Риме 25 декабря 800 года, в тот самый день, когда его отец был увенчан императорской короной. До этого (с 790 года) он управлял графством Мэн. Его старший брат, Пипин Горбатый, был лишён наследства, а его младшие братья Карломан (под именем Пипин) и Людовик Благочестивый получили соответственно Италию и Аквитанию.
В 789 году Карл Великий предложил Карлу Юному жениться на Эльфлиде, дочери короля Восточной Англии Оффы. Оффа настаивал, что это может произойти только если дочь Карла Великого выйдет замуж за сына Оффы Экгфрита. Карл обиделся на это и закрыл порты для английских торговцев. Позже порты были вновь открыты, торговые отношения восстановлены, а через несколько лет, в 796 году, Карл и Оффа заключили первый известный в истории Англии торговый договор.
Карл Юный скончался в Баварии 4 декабря 811.