Его семья переселилась в США в 1921 г. Первые уроки музыки получил от матери, в 1928 г. поступил в Консерваторию Сан-Франциско, учился у Наума Блиндера. Первое публичное выступление состоялось 18 февраля 1936 г.: с Симфоническим оркестром Сан-Франциско под руководством Пьера Монтё он исполнил Третий скрипичный концерт Сен-Санса. В 1950 г. познакомился с Пабло Казальсом, стал участником его фестивалей в Прадесе. В 1961 г. организовал трио с пианистом Юджином Истоминым и виолончелистом Леонардом Роузом, выступал с ним более 20 лет.
Открывал и поддерживал молодых музыкантов, среди которых — Йо-Йо-Ма, Ицхак Перлман, Пинхас Цукерман, Шломо Минц и другие.
В автобиографической книге «Мои первые 79 лет» отмечал влияние, которое на него как скрипача оказали Натан Мильштейн и Артюр Грюмьо.
Исполнял и записывал произведения Вивальди, Баха и его сыновей, Бетховена, Мендельсона, Брамса, из современных композиторов — Бартока, Стравинского, Сэмюэла Барбера, Леонарда Бернстайна.
Концертировал в СССР в период холодной войны, в Китае — в годы культурной революции (об этом путешествии снят документальный фильм), в Израиле — во время войны в Персидском заливе.
Премия Соннинг (Дания, 1982), премия Грэмми «За жизнь в искусстве» (1987), Полярная музыкальная премия (Швеция, 2000), Премия Вольфа.
Главный зал Карнеги-холла носит имя Айзека Стерна.