Родился и вырос в Неаполе. В 1943 году был арестован вместе с сокурсниками университета за выступления против нацистов. После того, как ему удалось бежать, Рози скрывался в Тоскане, установив связь с движением Сопротивления. С 1944 года работал на радио.
Вскоре Лукино Висконти пригласил его ассистентом режиссёра для съёмок фильма «Земля дрожит» (1948). В дальнейшем Рози работал ассистентом Антониони («Побеждённые»), Висконти («Чувство»), Моничелли и Эммера.
Дебютировал как режиссёр экранизацией пьсы "Кин, или Гений и беспутство" Александра Дюма, впрочем переработанной Сартром, с Витторио Гасманом в главной роли. В 1958 году он получил специальный приз жюри Венецианского кинофестиваля за фильм «Вызов» об истории неаполитанца Вито Поллара. С этой картины основной темой творчества режиссёра становится неаполитанская мафия. В фильме «Сальваторе Джулиано» (1961) сицилийские крестьяне вступают в противостояние с мафией. Фильм «Руки над городом» (1963), в котором снялся Род Стайгер, рассказывает о деятельности строительного синдиката. «Жила-была…» (1967) — единственная картина, в которой Рози ушёл от реальности, чтобы снять киносказку с летающими ведьмами, добрыми волшебницами, чудесными клёцками, принцем и бедной крестьянской девушкой (София Лорен), которые полюбят друг друга, и свадебным пиром в финале.
Первая половина 70-х в творчестве Рози тесно связана с политическим кинематографом. Круг его тем довольно широк: первая мировая война в ленте «Люди против» (1970), коррупция в итальянской промышленности в картине «Дело Маттеи» (1972, Главный приз МКФ в Каннах), судьба знаменитого итальянского капомафия Лаки Лучано в фильме «Лаки Лучано» (1973), наконец, «Сиятельные трупы» (1976), где коррупция, уголовщина в верхних эшелонах власти становятся предметом глубокого социального анализа. Рози как никто другой дотошен в построении реалистичной картины происходящего, уделяя большое внимание точности фактов и внутреннему психологизму героев. Он никогда не поступается реализмом, в котором не находится места иллюзиям.
Спад политической борьбы во второй половине 1970-х годов повлиял и на творчестве Рози. Тематика его картин становится шире, фильмы становятся более поэтическими, обретая универсалистский гуманизм: «Христос остановился в Эболи» (1979, Главный приз МКФ в Москве), экранизация романа Карло Леви — живописное полотно о судьбе писателя-антифашиста, сосланного в богом забытый город посреди Апеннин; «Три брата» (1981) по мотивам повести Андрея Платонова «Третий сын»; наконец, «Кармен», опера, в которой тема любви и предательства звучит в новом для Рози музыкальном жанре.
С начала 90-х годов Рози практически полностью погружается в театральную режиссуру, сняв всего несколько фильмов — «Неаполитанский дневник» и «Перемирие».
Творческий путь Франческо Рози отмечен многократным сотрудничеством с выдающимся итальянским кинооператором Паскуалино де Сантисом («Смерть в Венеции») — 14 совместных фильмов, а также с одним из лучших кинодраматургов мира Тонино Гуэрра — 11 фильмов.