Джованни Батиста Рубини в 1816—1817 годах имел блестящий успех в Риме, в опере Джоаккино Россини «Сорока-воровка» («Gazza ladra») по пьесе Л.-Ш. Кенье и д’Обиньи «Сорока-воровка, или Служанка из Палезо».
В 1825 году выступил впервые в столице Франции городе Париже.
Прелесть его голоса, стиль, редкая элегантность в колоратуре обеспечили его успех. Критики того времени, отзываясь о его пении, называли его «королём теноров». В особенности Джованни Рубини был неподражаем в операх Винченцо Беллини.
В 1843 году Джованни Батиста Рубини совершил вместе с пианистом и композитором Ференцем Листом гастрольное концертное турне по Голландии и Германии.
В 1844 году в столице Российской империи городе Санкт-Петербурге Джованни Рубини выступал вместе с Антонио Тамбурини и Полиной Виардо-Гарсиа.
Джованни Батиста Рубини скончался 3 марта 1854 года в Романо-ди-Ломбардии.
Жена Рубини, француженка, урожденная Шомель (1794—1874), также имела успех как певица (под фамилией Комелли).