Был священником в Йёнчёпинге.
Составил вместе с Гейером сборник старинных шведских народных песен «Svenska folkvisor fr?n forntiden» (3 тома, Стокгольм, 1814—1817). Другой народный песенник, который Авцелиус составил по древним оригинальным песням, вышел вместе с музыкальными приложениями в «Afsked af Svenska Folksharpan» (Стокгольм, 1848).
Авцелиус перевел на шведский язык скандинавскую сагу «Сага о Хервёр» («Hervarasaga», Стокгольм, 1811) и сборник древнеисландских песен о богах и героях «Старшая Эдда» («Edda S?mundar», Стокгольм, 1818), которые он издал вместе с Раском.
Написал трагедию «Den siste Tolkungen». Кроме того, Авцелиус занимался историей Швеции, основанной на сказаниях шведского народа, и доведённой им до смерти Карла XII под заглавием «Svenska folkets sago h?fder» (ч. I — II, Стокгольм, 1839—1870). Первые части этого сочинения изданы в немецком переводе с предисловием Л. Тика («Volkssagen und Volkslieder aus Schwedens ?lterer und neurer Zeit», Лейпциг, 1842).
Из собственных сочинений Авцелиуса популярностью пользовались некоторые романсы.