В 1896 переселился в Париж, познакомился с братьями Гонкур, Альфонсом Доде и др.
Автор приключенческой прозы, романов о доисторическом прошлом, один из родоначальников жанра научной фантастики. Оставил также "Литературные воспоминания" (1927), "Портреты и воспоминания" (1945).
Награждён орденом Почётного легиона (1897). Член Гонкуровской академии, с 1926 её президент. Книги Рони переиздаются до нынешнего дня на многих языках, множатся исследования его романов в контексте открытий и страхов эпохи. С 1980 во Франции вручается премия Жозефа Рони-старшего за лучшее произведение в жанре научной фантастики по двум номинациям — роман и новелла.