В детстве обучался у отца игре на скрипке, в 1957 году поступил в Ленинградскую консерваторию в классы фортепиано и дирижирования Николая Рабиновича. С 1969 по 1972 год совершенствовался в Вене у Ганса Сваровски и в Зальцбурге у Герберта фон Караяна. После победы Янсонса на Караяновском конкурсе дирижёров в Берлине в 1971 году, Караян предложил молодому музыканту стать его ассистентом в Берлинской филармонии, однако советские власти наложили на это запрет.
Два года спустя Янсонс получил место ассистента дирижёра оркестра Ленинградской филармонии, c 1985 — ассистент главного дирижёра (Евгения Мравинского).
С 1979 года занимал место музыкального руководителя оркестра Филармонии Осло, за время работы с коллективом (до 2000) значительно поднял его исполнительский уровень, доведя его до мировых стандартов. С этим оркестром Янсонс выступал в Карнеги-холле, на Зальцбургском фестивале, в Токио и на других концертных площадках, а также сделал ряд записей сочинений русских и европейских композиторов, в том числе всех симфоний Чайковского, оркестровых произведений Дворжака, Сибелиуса и других авторов. Среди других коллективов, с которыми работал Янсонс — оркестр Концертгебау, Берлинский филармонический оркестр, симфонический оркестр Баварского радио, Чикагский, Кливлендский и Питтсбургский симфонические оркестры. С 1992 работает также в Латвии, являясь руководителем Латвийского национального оркестра, с 1994 сотрудничает с Венским филармоническим оркестром, в 2006 дирижировал Новогодним концертом. С 2004 года и по настоящее время является главным дирижером нидерландского Концертгебау.
Репертуар Янсонса очень широк, однако основу его составляют сочинения композиторов XIX и начала XX века — Берлиоза, Малера, Сибелиуса, Рахманинова. Игру оркестра под его управлением отличает яркость звучания, глубина понимания замысла композитора, точное следование нюансам. Как глава Филармонического оркестра Осло стал обладателем норвежского Королевского ордена почёта.
Многочисленные диски Янсонса пользуются большой популярностью и неоднократно удостаивались различных наград. Записал цикл всех симфоний и концертов Рахманинова с ЗКР АСО СПб филармонии, все симфонии Шостаковича с несколькими ведущими оркестрами Европы и Америки (премия «Грэмми» 2005 года за исполнение Тринадцатой симфонии Шостаковича).
Янсонс ведёт активную преподавательскую деятельность, выступает на радио и телевидении, с 1995 работает в Петербургской консерватории, где преподаёт дирижирование и руководит студенческим симфоническим оркестром.
Место жительства — Санкт-Петербург, Толстовский дом .