Исаак Шварц родился 13 мая 1923 года в Ромнах (ныне Сумская область Украины). Дед по отцовской линии в начале XX века переехал в Полтавскую губернию из Прибалтики. В 1930 году семья Шварца переехала в Ленинград, там мальчик начал заниматься в Доме художественного воспитания детей (ДХВД) по классу рояля у А. С. Замкова. В 1935 году Исаак Шварц в возрасте 12 лет принимает участие в юношеском концерте в Большом зале ЛГФ.
В декабре 1936 года отец Исаака, филолог Иосиф Евсеевич Шварц (1889—1938), был арестован органами НКВД СССР, осуждён по статье 58 УК РСФСР и сослан в лагеря, где в апреле 1938 года был вновь осуждён и расстрелян. Летом 1937 года семью Шварца выслали из Ленинграда в Киргизию. Мать Исаака, Рахиль Соломоновна, устроилась во Фрунзе на швейной фабрике, а 14-летний Исаак начал давать частные уроки фортепиано детям фрунзенских чиновников.
В 1938 году Исаак Шварц начал брать уроки композиции у педагога В. Г. Фере. В последующие годы ссылки он работал концертмейстером в Киргизском государственном театре. Во время Великой Отечественной войны Шварц руководил хором и оркестром Красноармейского ансамбля песни и пляски Фрунзенского военного округа. В 1943 году он женился.
В 1945 году срок ссылки окончился, Шварц вернулся в Ленинград и при участии Д. Д. Шостаковича поступил в ЛГК имени Н. А. Римского-Корсакова в класс Б. А. Арапова. Последние два года пребывания в консерватории Шварц учился у О. А. Евлахова. После окончания консерватории Шварц в 1954 году сочиняет «Симфонию фа минор», принёсшую молодому композитору первый успех. В 1955 году Исаак Шварц был принят в Союз композиторов СССР.
В последующие годы он пишет ряд балетов, музыку для спектаклей («Идиот», «Горе от ума», «Не склонившие головы» и «На всякого мудреца довольно простоты» в постановке Г. Товстоногова, «Доходное место» в постановке Р. Сусловича и др.) и кинофильмов (всего более 110 картин). Наибольшую известность и любовь миллионов телезрителей завоевала полная грустного очарования музыка из фильма «Мелодии белой ночи» (1976). Саундтрек из этой советско-японской мелодрамы давно живёт самостоятельной жизнью.
Весьма плодотворным оказался творческий союз Шварца с Булатом Окуджавой. Вместе они создали 32 песни, наиболее известные из которых — песня Верещагина «Ваше благородие…» («Белое солнце пустыни»), «Песенка кавалергарда» («Звезда пленительного счастья»), романс «Любовь и разлука» («Нас венчали не в церкви»), а также песни из кинофильма «Соломенная шляпка». Окуджава очень высоко ценил редкостный дар Шварца «извлекать музыку из самого стихотворения, ту самую, единственную, которая только и существует для каждой строки».
Премии «Оскар» за лучший иностранный фильм (1976) была удостоена советско-японская картина «Дерсу Узала» (реж. Акира Куросава), музыку к которой написал Исаак Шварц.
Последнее большое симфоническое программное произведение композитора — «Концерт для оркестра в шести частях. «Жёлтые звезды» («Пурим-шпиль в гетто»). Памяти Рауля Валленберга».
Московская премьера состоялась 29 сентября 2000 года в Зале Чайковского, к 60-летию творческой деятельности композитора (Российский национальный оркестр, дирижёр — Павел Сорокин), существует телевизионная версия этого вечера (ТВЦ, режиссёр — Ольга Трегубова). В 2002 году Концерт был записан Национальным филармоническим оркестром России под управлением Владимира Спивакова и выпущен в 2005 году фирмой Capriccio Records на компакт-диске и DVD.
Композитор с середины 60-х годов жил и работал в посёлке Сиверский (железнодорожная станция Сиверская) Гатчинского района Ленинградской области. Последнюю его жену, с которой Шварц прожил более 20 лет, звали Антонина.
Скончался во сне 27 декабря 2009 года. Исаака Шварца похоронили 30 декабря 2009 года на Литераторских мостках Волковского кладбища в Санкт-Петербурге. Согласно воле композитора, его похороны прошли в соответствии с еврейским погребальным ритуалом. Поминальную молитву «Кадиш» над гробом Исаака Шварца произнес один из раввинов Санкт-Петербургской еврейской религиозной общины.