Родился 20 апреля 1850 года в Париже. С 1868 года начал посещать Школу изящных искусств (?cole nationale sup?rieure des Beaux-Arts), мастерскую Жан-Леона Жерома. Дебютировал на Парижском салоне в 1870 году.
Рафаэлли был дружен с Эдгаром Дега. Благодаря протекции последнего принял участие в Пятой (1880 год) и Шестой (1881 год) выставках импрессионистов, став отчасти причиной раскола в среде художников — основоположников движения, поскольку многие критиковали Рафаэлли за поверхностно усвоенную импрессионистскую манеру.
С 1891 года Рафаэлли стал выставляться в Национальном обществе изящных искусств и художественной галерее Жоржа Пти.
В преддверии Всемирной выставки в Париже в 1900 году Рафаэлли работал над выпуском специального издания о городе. 17 февраля 1889 года газета «Русский курьер» писала:
В последние годы жизни Рафаэлли сконцентрировался на создании цветных гравюр и стал довольно известным мастером.
Умер Рафаэлли в Париже в 1924 году.
От своего учителя — художника Жерома — Рафаэлли унаследовал пристрастие к жанровым работам. Но в отличие от Жерома выбрал главным объектом своего интереса бедные районы и пригороды Парижа. Рафаэлли и известен главным образом как мастер городского пейзажа. На творчество Рафаэлли оказал большое влияние Дега, с которым он дружил. От него Рафаэлли усвоил беглую манеру письма и высветление палитры.
Рафаэлли также писал портреты современников, был довольно известным рисовальщиком, иллюстратором и гравером (с его именем связывают возрождение цветной гравюры).