Родилась в рабочей семье, а после окончания школы работала продавцом на западе Швеции. В 1905 году она иммигрировала в США, где первое время работала няней. Вскоре она сделала успешную карьеру в модельном бизнесе, благодаря чему в 1911 году попала в кино. В последующие годы ежегодно выходило десяток фильмов в год с участием Нильссон. На студии «Kalem», где она исполнила большинство своих ролей, актриса была звездой номер один наряду с Элис Джойс. В 1920-х годах Нильссон успешно сотрудничала с «Paramount Pictures», где и достигла наивысшего успеха. В 1923 году она сыграла Шерри Мэлоут в экранизации произведения Рекса Бича «Негодяи», после чего эту роль в ремейках исполнили Бетти Компсон (1930), Марлен Дитрих (1942) и Энн Бакстер (1955).
С приходом эры звукового кино карьера Анны К. Нильссон резко пошла на спад, но в дальнейшем она продолжала мелькать на битовых ролях до середины 1950-х годов. В 1950 году она появилась в фильме «Бульвар Сансет», где сыграла саму себя на вечере «восковых фигур» в доме Нормы Десмонд.
Анна К. Нильссон умерла от сердечной недостаточности в феврале 1974 года в небольшом городке Хамлет в Калифорнии. За свой вклад в кино актриса удостоена звезды на Голливудской аллее славы.