Нэнси Олсон родилась 14 июля 1928 года в городе Милуоки, штат Висконсин, в семье врача Генри Олсона и его жены Эвелин. В 1948 году она подписала контракт с «Paramount Pictures» и после нескольких мелких ролей привлекла к себе внимание голливудских режиссёров, среди которых был и Билли Уайлдер. В 1950 году он пригласил Олсон на роль Бетти Шифер в своём фильме «Бульвар Сансет», которая принесла её номинацию на премию «Оскар» за лучшую женскую роль второго плана. Её коллегой по этому фильму был Уильям Холден, союз с которым посчитали очень удачным и в дальнейшем, на протяжении 1950-х годов, они ещё несколько раз снялись вместе.
В 1950 году Нэнси вышла замуж за поэта Алана Джей Лернера, от которого родила двоих дочерей. В 1957 году они развелись. Её вторым мужем был бизнесмен Алан В. Ливингстоун, который стал отцом её сына.
Но в 1960-х годах карьера Олсон пошла на спад и одними из дальнейших успешных ролей Олсен стали Нэнси Валлон в «Поллианна» (1960), Элизабет Брайнард в «Сыне Флаббера» (1963) и миссис Эббот в «Аэропорт 1975» (1974). В дальнейшем Нэнси переехала в Нью-Йорк, где некоторое время играла на бродвейских сценах.
В 1970-е актриса ещё изредка продолжала сниматься на телевидении, а в 1984 году завершила свою кинокарьеру. После этого Олсон лишь раз появилась в кино — в 1997 году в эпизодической роли в диснеевском фильме «Флаббер». В 2010 году, после 13-летнего перерыва, актриса исполнила небольшую роль в одном из эпизодов телесериала «Большая любовь». На 2012 год намечен выход комедии «Гири», где Олсон сыграла Бьянку Каммингс.