Из семьи художников. Учился играть на саксгорне и только в 17 лет взялся за тромбон, подражая известному джазовому тромбонисту Джеку Тигардену. Поступил в Королевскую высшую музыкальную школу в Стокгольме. В 19 лет играл в оркестре Шведской королевской оперы, в двадцать решил быть исключительно солистом. Продолжил учёбу в Великобритании и США.
В 1981 выиграл Биеннале солистов северных стран. В 1984 дебютировал с сольным концертом, в том же году записал первый диск (сегодня на его счету более 70).
Как композитор дебютировал в 1997 году, как дирижёр — в 2000 году. В 2009 г. основал и возглавил Арктический филармонический оркестр, базирующийся в городе Тромсё.
Записал произведения и переложения для тромбона композиторов-классиков от Баха и Моцарта до Римского-Корсакова и Сибелиуса, но по преимуществу играет и записывает современную музыку. Стал первым исполнителем свыше 300 пьес для тромбона, свыше 30 из них написаны им самим. Именно линдберговское исполнение «Мотоциклетного концерта» Сандстрёма принесло широкую известность этому сочинению и его автору. Для Линдберга писали Яннис Ксенакис, Арво Пярт, Альфред Шнитке, София Губайдулина, Майкл Найман, Лучано Берио, Тору Такэмицу, Марк-Энтони Тёрнедж и другие мастера.
Почетный профессор Королевского музыкального колледжа в Лондоне. Удостоен королём Швеции золотой медали Litteris et Artibus (2004). Исполнительский конкурс имени Линдберга проходит в Валенсии.