Давид Ойстрах родился в Одессе 17 (30) сентября 1908 в семье купца второй гильдии Фишеля Давидовича Ойстраха и его жены Бейлы.
С пяти лет обучался игре на скрипке и альте у Петра Столярского, сначала частным образом, а с 1923 года — в Одесском музыкально-драматическом институте (консерватории), который окончил в 1926 году. В консерватории Д. Ойстрах изучал специальную гармонию и полифонию под руководством композитора Н. Н. Вилинского. Ещё будучи студентом, Ойстрах выступал с Одесским симфоническим оркестром как солист и как дирижёр. В 1927 году исполнил в Киеве Концерт для скрипки с оркестром Александра Глазунова под управлением автора.
В 1928 году состоялся дебют Ойстраха в Ленинграде, год спустя он впервые выступил в Москве и вскоре перебрался туда на постоянное место жительства. В 1935 году скрипач побеждает на первом Всесоюзном конкурсе музыкантов-исполнителей и в том же году получает вторую премию на Международном конкурсе имени Венявского (победительницей стала Жинетт Невё). Два года спустя Ойстрах выигрывает Конкурс имени Эжена Изаи в Брюсселе и обретает мировую известность.
В годы войны музыкант активно участвовал в военно-шефской работе, выступал как солист на мобилизационных пунктах, в госпиталях, в блокадном Ленинграде, перед моряками Северного флота. С 1943 года играл в ансамбле с пианистом Львом Обориным и виолончелистом Святославом Кнушевицким. Этот ансамбль просуществовал до кончины Кнушевицкого в 1963 году.
После войны Ойстрах начал активную концертную деятельность. В 1945 году большой интерес публики вызвало его исполнение в Москве двойного концерта Баха совместно с Иегуди Менухиным (первым зарубежным исполнителем, приехавшим в СССР после войны). В 1946—1947 годах Ойстрах организовал цикл «Развитие скрипичного концерта», в котором исполнил концерты Сибелиуса, Элгара, Уолтона и написанный специально для него концерт Арама Хачатуряна. Ойстраху же посвящён Первый концерт для скрипки с оркестром Дмитрия Шостаковича, исполненный на его первых гастролях в Нью-Йорке в 1955 году.
С 1934 года Ойстрах преподавал в Московской консерватории (с 1939 — профессор), где среди его учеников были его сын Игорь, победитель Первого конкурса имени Чайковского Валерий Климов, Виктор Пикайзен, Семён Снитковский, Олег Каган, Михаил Готсдинер, Леонарда Бруштейн, Леонид Фейгин, Лиана Исакадзе, Гидон Кремер, Олег Крыса и другие выдающиеся скрипачи. Ойстрах был бессменным председателем жюри в номинации «скрипка» на первых пяти (с 1958 по 1974 годы) конкурсах имени П. И. Чайковского.
Музыкант умер от сердечного приступа 24 октября 1974 в Амстердаме через несколько часов после очередного концерта. Похоронен на Новодевичьем кладбище в Москве.
Ойстрах — один из наиболее выдающихся представителей отечественной скрипичной школы. Его исполнение отличалось виртуозным владением инструментом, техническим мастерством, ярким и тёплым звучанием инструмента. Неоднократно Ойстрах выступал в качестве дирижёра. В его репертуар входили классические и романтические произведения (исполнение Ойстрахом скрипичных сонат Бетховена совместно со Львом Обориным до сих пор считается одной из лучших интерпретаций этого цикла), но он также с большим энтузиазмом играл и произведения современных авторов, например, редко исполняемый Скрипичный концерт Хиндемита. Ойстраху посвящён ряд сочинений Прокофьева, Шостаковича, Мясковского, Вайнберга. Многочисленные записи музыканта доступны на компакт-дисках.
Ойстрах был довольно сильным шахматистом, большой интерес общественности вызвал его матч с Сергеем Прокофьевым в Москве в 1937 году, выигранный Ойстрахом.