Музыке обучался в Вене (1870—1871) и Лейпциге (1871-73 и 1877-78). Был дирижёром «Финской оперы» (1878-79). В 1882 основал Гельсингфорсский музыкальный институт (с 1939 — Академия имени Сибелиуса), директором которого был до конца жизни. Вегелиусу принадлежит ряд симфонических, хоровых и других сочинений, а также многочисленные музыковедческие труды, музыкально-критичиские статьи и другое. Вегелиус воспитал ряд виднейших финских композиторов: Я. Сибелиус, Армас Ярнефельт, Э. Мелартин, Т. Куула и др.