Начал заниматься спортом с 5 лет в детской команде «Хальмстада». Помимо футбола, в детстве занимался хоккеем и гандболом.
Дебютировал в чемпионате Швеции 23 октября 1994 года в матче против клуба АИК. За 4 года в «Хальмстаде» молодой игрок, будучи одним из лидеров команды, сыграл 139 игр и забил в них 16 голов, выиграл со своим клубом как чемпионат, так и Кубок страны.
Явно переросший уровень своего клуба молодой игрок покинул его в 1998 году, перейдя в лондонский «Арсенал» за 3 млн ?. Удачно дебютировал в новом клубе, выйдя на замену в матче с «Манчестер Юнайтед» и забив гол.
Очень удачно для него сложился сезон 2001/02, когда он в составе «Арсенала» выиграл Премьер-лигу и Кубок Англии. В том сезоне Юнгберг стал игроком основного состава после того, как травму колена получил Робер Пирес, Фредди блестяще играл и забивал в важнейших матчах, включая победный финал Кубка Англии против «Челси». Он одинаково успешно играл на позициях как вингера, так и форварда.
В свои последние годы в «Арсенале» (2005—2006) по причине травм играл нечасто, много лечился и восстанавливался и в июле 2007 (разговоры об этом шли ещё с января) был вынужден покинуть клуб.
Перешёл в «Вест Хэм Юнайтед». Дебютировал в новом клубе 11 августа 2007 в матче против «Манчестер Сити», сразу же надев капитанскую повязку. 26 апреля 2008 года получил в матче с «Ньюкасл Юнайтед» травму (перелом ребра) в единоборстве с их защитником Стивеном Тейлором и выбыл до конца сезона. 6 августа 2008 руководство «Вест Хэм Юнайтед» разорвал с Юнгбергом контракт.
28 октября 2008 года подписал 2-летний контракт с американским клубом «Сиэтл Саундерс». 30 июля 2010 года игрок перешёл в «Чикаго Файр», однако долго в американском клубе не продержался. 30 декабря 2010 года Фредди Юнгберг на правах свободного агента присоединился к шотландскому «Селтику».
Кроме футбольной карьеры активно работал в качестве модели, представляя нижнее бельё американской фирмы Calvin Klein. Кроме того, сотрудничал с такими фирмами как Nike, Procter & Gamble, L’Or?al и др. Вопреки распространённым слухам, Фредрик не гей, однако ему приятны подобные подозрения.