В детстве Шеринг обучался игре на фортепиано, однако вскоре начал заниматься на скрипке. По рекомендации известного скрипача Бронислава Губермана в 1928 году отправился в Берлин, где занимался у Карла Флеша, а в 1933 году состоялось первое крупное сольное выступление Шеринга: в Варшаве он исполнил концерт для скрипки Бетховена с оркестром под управлением Бруно Вальтера. В том же году он перебрался в Париж, где совершенствовал своё мастерство (по признанию самого Шеринга, большое влияние на него оказали Джордже Энеску и Жак Тибо), а также в течение шести лет брал частные уроки композиции у Нади Буланже.
В начале Второй мировой войны Шеринг, свободно владевший семью языками, смог получить должность переводчика в «лондонском» правительстве Польши и при поддержке Владислава Сикорского помочь сотням польских беженцев перебраться в Мексику. Гонорары с многочисленных (более 300) концертов, сыгранных им во время войны в Европе, Азии, Африке, Америке, Шеринг отчислял в помощь Антигитлеровской коалиции.
После одного из концертов в Мексике в 1943 году Шерингу было предложено место председателя департамента струнных инструментов в университете Мехико. По окончании войны Шеринг приступил к своим новым обязанностям.
Приняв гражданство Мексики, в течение десяти лет Шеринг занимался почти исключительно преподавательской деятельностью. Лишь в 1956 году по предложению Артура Рубинштейна состоялось первое после долгого перерыва выступление скрипача в Нью-Йорке, вернувшее ему мировую известность. В течение последующих тридцати лет вплоть до своей смерти Шеринг совмещал преподавание с активной концертной работой. Он умер во время гастролей в Касселе (Германия) и похоронен в Мехико.
Шеринг обладал высокой виртуозностью и элегантностью исполнения, хорошим чувством стиля. В его репертуар входили как классические сочинения для скрипки, так и произведения современных авторов, в том числе композиторов Мексики, чьи сочинения он активно пропагандировал. Шеринг был первым исполнителем посвящённых ему композиций Бруно Мадерны и Кшиштофа Пендерецкого, в 1971 году он впервые исполнил Третий скрипичный концерт Никколо Паганини, партитура которого в течение многих лет считалась утерянной и была обнаружена лишь в 1960-х гг.
Дискография Шеринга весьма обширна и включает в себя антологию скрипичной музыки Моцарта и Бетховена, а также концерты Баха, Мендельсона, Брамса, Хачатуряна, Шёнберга, Бартока, Берга, многочисленные камерные сочинения и др. В 1974 и 1975 годах Шеринг получил премию «Грэмми» за исполнение фортепианных трио Шуберта и Брамса совместно с Артуром Рубинштейном и Пьером Фурнье.