Родился в семье еврейских иммигрантов из Польши в Тель-Авиве, входившем тогда в состав британской подмандатной территории Палестина; вырос в Израиле. Заинтересовался скрипкой, услышав концерт классической музыки по радио. Учился в музыкальной академии в Тель-Авиве, затем в Джульярдской школе в США у Ивана Галамяна и Дороти Делэй.
Его первое выступление состоялось в 1963 году в Карнеги-Холле. В 1964 году он выиграл престижнейший американский конкурс имени Левентритта. Вскоре после этого начал выступать с персональными концертами. Кроме того, Перлмана приглашали на различные шоу на телевидение. Несколько раз он играл в Белом Доме. Перлман — пятикратный обладатель премии «Грэмми» за исполнение классической музыки.
В возрасте четырёх лет Перлман переболел полиомиелитом, отчего вынужден пользоваться костылями для передвижения и играет на скрипке сидя.
Он также несколько раз исполнял арии из опер (бас) и в 1981 году даже участвовал в записи «Тоски» Пуччини, главные роли в которой исполнили Рената Скотто, Пласидо Доминго и Ренато Брузон.
Помимо классической музыки, Ицхак Перлман также известен исполнением еврейской народной музыки — инструментальными обработками народных песен на идише в сопровождении Израильского филармонического оркестра (Tradition: Itzhak Perlman plays popular Jewish melodies, 1987) и работой с различными клезмерскими коллективами (Itzhak Perlman in the Fiddler’s House, 1995; Itzhak Perlman Live in the Fiddler’s House, 1996; A Jewish Violin — The Best of Klezmer and Traditional Jewish Music, 2007); выступил в роли ведущего телевизионных передач о клезмерской музыке и еврейском фольклоре, снятых на идише и английском языке. В 1994 году вместе с пианистом Оскаром Питерсоном в составе квинтета записал альбом джазовых композиций (Side by Side: Itzhak Perlman & Oscar Peterson, 1994).