Родился в Стокгольме, в семье гидрографа Фредерика Лоренца Экмана. Сам был вовлечён в занятия океанологией во время изучения физики в Упсальском Университете, в особенности после прослушивания курса Вильгельма Бьеркнеса по гидродинамике.
Во время экспедиции на «Фраме», Фритьоф Нансен отметил что айсберги имеют тенденцию дрейфовать не по направлению превалирующего ветра, а под углом 20°-40° вправо. Бьеркнес предложил своему студенту Экману заняться этой проблемой и в 1905 году Экман опубликовал свою теорию Экмановской спирали, которая объясняла феномен наблюдаемый Нансеном балансом между вязкостью в океане и силой Кориолиса, возникающей вследствие вращения Земли.
Завершив докторантуру в Уппсале в 1902 году, Экман присоединился к Международной Лаборатории Океанографический Исследований (International Laboratory for Oceanographic Research) в Осло, где проработал семь лет, не только расширяя свою теорию, но также разрабатывая экспериментальные техникии и приборы, такие как Экмановский измеритель течения (Экмановская вертушка) и батометр Экмана.
С 1910 по 1939 он продолжал свои теоретические и экспериментальные изыскания в Лундском университете, где занимал место профессора математики и математической физики. Он был избран членом Шведской королевской академии наук в 1935 году.
Был также одарённым певцом (бас), пианистом и композитором. Активно работал до своей смерти в 1954 году.