Жульетт родилась 7 февраля 1927 года в городе Монпелье на юге Франции. Её отец был уроженцем Корсики, мать — француженкой. Воспитанием маленькой Жюльетт занимались родители матери. Во время войны Жюльетт, последовав примеру матери, вступила в Сопротивление и даже была арестована, но избежала высылки из-за юного возраста. В 1946 году Жюльетт переехала в Париж в Сан-Жермен-де-Пре после того, как её мать покинула Францию и отправилась в Индокитай вместе с моряками Военно-морского флота.
Вскоре Жульетт становится одной из звёзд послевоенной Франции, воплотив в своих песнях разочарование и бедность французской интеллигенции, последовавшие после Второй мировой войны. Её образ того времени складывался из чёрного наряда и чёрных длинных развевающихся волос.
Греко часто посещала различные кафе Сан-Жермена, где вращалась в политических и философских кругах местной богемы. Там же она познакомилась с Майлзом Дэвисом и Жаном Кокто; последний даже предложил ей небольшую роль в своём фильме «Орфей» в 1949 году. Голливудский продюсер и режиссёр Дэррил Ф. Занук часто приглашал её в свои фильмы 1960—1970 годы.
Греко трижды была замужем. Её вторым мужем был французский актёр Мишель Пикколи, с которым она прожила с 1966 по 1977 год. В 1988 году она вышла замуж за Жерара Жёнеса, в браке с которым состоит и по сей день.