Йонас Кокконен во время Второй мировой войны служил в финской армии. Учился в университете Хельсинки (1940—1941 и с 1945 по 1949) где изучал музыковедение, по классу фортепиано окончил в 1950 году Академию им. Сибелиуса (фин. ) в Хельсинки. Композицию изучал главным образом самостоятельно.
В 1947—1950 гг Йонас Кокконен писал критические статьи о музыке, а затем был главным редактором «Новой музыкальной газеты» (фин. Uuden Musikklehden).
В 1948 году состоялся его дебют как композитора, он написал фортепианное трио.
С 1948 по 1963 год преподавал в Академии им. Сибелиуса музыкальную композицию, причём в 1959 году стал профессором. Среди его учеников финские композиторы — А. Саллинен (фин. ), Э. Салменхаара, П. Хейнинен, П. Нордгрен, Х. К. Вессман.
С 1965 по 1971 год Кокконен возглавлял Союз финских композиторов.
Кокконен много концертировал как пианист, часто исполнял на концертах свои произведения.
В основе музыки Кокконена — финский музыкальный фольклор. На творчество Кокконена оказал большое влияние Ян Сибелиус, а также композиторы Иоганнес Брамс, Бела Барток, И. Ф. Стравинский, Пауль Хиндемит, Альбан Берг, традиции музыки барокко и ренессанса.