Родился в семье Леона Розенталя и Аугусты Каннер. В 1872 г. начал учиться у Карла Микули, бывшего ассистента Фредерика Шопена, перенимая характерное шопеновское изящное легато. В 1875 г. продолжил обучение в Вене у Рафаэля Йошеффи, который устроил 13-летнему музыканту первый венский концерт и аккомпанировал ему на втором фортепиано. В 1876 г. отправился на первые гастроли в Румынию, имел большой успех при княжеском дворе и по желанию княгини Елизаветы был назначен придворным пианистом. Здесь, по преданию, игру Розенталя услышал российский император Александр II и пригласил выступить в Санкт-Петербурге.
В 1876—1878 гг. Розенталь брал уроки у Ференца Листа в Веймаре и Риме. После этого он на некоторое время оставил исполнительскую карьеру ради учёбы в Венском университете. В 1886 г. Розенталь вернулся к активной концертной деятельности. В 1889 г. состоялись его первые гастроли в США, открывшиеся совместным концертом в Нью-Йорке с 14-летним Фрицем Крейслером. В 1890 г. Розенталь опубликовал сборник упражнений «Школа высшего фортепианного мастерства» (нем. Schule des h?heren Klavierspiels), составленный в соавторстве с Людвигом Шитте.
Продолжая гастролировать по миру вплоть до конца 1930-х гг., Розенталь оставался в блестящей форме. В январе 1937 года журнал «Тайм» отмечал:
После аншлюсса Розенталь остался жить в Нью-Йорке, страдая в последние годы от болезни Паркинсона.