Назван в честь прародителя династии Габсбургов — германского короля Рудольфа I. С молодости отличался независимостью и либеральными взглядами, хотел поступить в университет, печатал в венских газетах политические обозрения под псевдонимом Юлиус Феликс.
По воле отца и бабки женился в 1881 году на бельгийской принцессе Стефании, дочери Леопольда II. Их брак, от которого родилась дочь Елизавета в 1883 году, оказался неудачным.
30 января 1889 в имении Майерлинг были найдены трупы кронпринца Рудольфа и его любовницы — юной баронессы Марии фон Вечера, против отношений которой с сыном выступал Франц Иосиф. Трагедия остаётся загадочной до настоящего времени; наиболее распространена версия, согласно которой Рудольф застрелился, а Мария либо также покончила с собой, либо её убил принц; существует также ряд теорий заговора. Правительство скрыло обстоятельства гибели кронпринца (приписав её несчастному случаю), однако подробности достаточно быстро распространились по Европе.
Так как у Рудольфа не было сыновей или братьев, наследником Франца Иосифа стал младший брат императора эрцгерцог Карл Людвиг, а после его смерти в 1896 году — сын Карла и кузен Рудольфа Франц Фердинанд. Ему также не суждено было пережить дядю; после убийства Франца Фердинанда в Сараеве (1914) наследником умершего в 1916 Франца Иосифа стал сын младшего брата Франца Фердинанда — Отто Франца, император Карл I.
Трагедия в Майерлинге была положена в основу ряда художественных произведений и фильмов (ленты Анатоля Литвака с Шарлем Буайе, 1936; Теренса Янга с Омаром Шарифом, 1968, и др.).
В народе долго ходили слухи, что Рудольф жив и основал где-то в Бразилии «мужицкое царство». Об этом писал, в частности, Иван Франко, жалевший своих земляков, отправившихся за океан «байкам о царстве Рудольфа поверив». Считалось также, что Рудольф должен вернуться, занять трон, навести справедливость. Эти слухи нашли отражение в романе хорватского писателя Августа Цесареца «Императорское королевство».
Отдельные обстоятельства жизни Рудольфа были обыграны в голливудском кинофильме 2006 года «Иллюзионист» с Эдвардом Нортоном в главной роли.
Австрийский певец Falco посвятил ему песню "Monarchy Now" (альбом "Nachtflug" 1992г.).