Джо Ван Флит родилась 30 декабря 1914 года в Окленде, Калифорния. Свою актёрскую карьеру начала уже в сороколетнем возрасте на Бродвее. В 1954 году она была удостоена премии «Тони» зо роль в постановке «Поездка в Баунтифул», где она играла вместе с Лилиан Гиш и Эвой Мари Сейнт. Её первая роль в кино была в 1955 году в фильме «К востоку от рая», где она играла мать персонажа Джеймса Дина. Это её дебютная роль принесла ей премию «Оскар» как лучшей актрисе второго плана. В дальнейшем она снялась в таких фильмах, как «Татуированная роза» (1955), «Дикая река» (1960), «Жилец» (1976) и других.
В 1946 году Джо вышла замуж за Уилльяма Бэилза, от которого родила сына Майкла, и была с ним до его смерти в 1990 году. Актриса скончалась 10 июня 1996 года в Нью-Йорке в возрасте 81 года.
За свой вклад в киноискусство она удостоена звезды на Голливудской аллее славы.