Дэвид родился в семье евреев в Бруклине, Нью-Йорк. Он окончил среднюю школу «Sheepshead Bay», а потом Мэрилендский университет со степенью бакалавра истории (1969), а эатем бакалавра бизнеса (1970). После окончания университета он был зачислен в резерв Армии США на три года.
Дэвид женился на Лори Леонард 31 марта 1993 года. У них родилось две дочери, Кэззи и Роми. С мая 2005 года Ларри и Лори ведут блог в «The Huffington Post». 5 июня 2007 года пара объявила о решении жить по отдельности. 13 июля 2007 года Лори Дэвид подала на развод, сославшись на непримиримые разногласия.
На заре своей карьеры Дэвид, чтобы оплатить счета, работал клерком в магазине, водителем лимузина и ремонтником телевидения. Он жил на Манхэттен-плаза, вместе с партнёром по «Сайнфелду» Кенни Крамером. С 1980 по 1982 год Дэвид был сценаристом сериала «Пятница», а с 1984 по 1985 год сценаристом ток-шоу «Субботним вечером в прямом эфире». За время работы в ток-шоу он только один раз смог получить скетч на шоу. Позже он оставил работу в шоу. Этот сюжет вдохновил его на создание второго сезона «Сайнфелда». С будущими звездами «Сайнфелда» Дэвид встретился на раннем этапе своей карьеры: с Майклом Ричардсом (Кремер) он работал в «Пятнице», а с Джулией Луис-Дрейфус (Элейн) на «Субботнем вечере в прямом эфире». Ларри Дэвид также сам снялся в эпизоде сериала.
В 1989 году Дэвид совместно с Джерри Сайнфелдом приступил к созданию пилотного выпуска «Хроников Сайнфелда», который стал основой для одноимённого сериала. Дэвид иногда появлялся в эпизодах сериала и озвучивал Стейбреннера, но в титрах как актёр он не указан. Дэвид написал сценарий к семи сезонам «Сайнфелда» и вернулся в 1998 году, чтобы написать финал. Но он продлжал озвучивать персонаж Стейбреннера. Продажи сериала на DVD принесли Дэвиду доход в 55 миллионов долларов. Также 19 раз он был номинирован на премию Эмми.
17 октября 1999 года кабельный канал HBO выделил час эфирного времени для нового проекта Ларри Дэвида: «Умерь свой энтузиазм». Сам сериал стартовал 15 октября 2000 года. Особенностью сериала является то, что актёры получают лишь краткий обзор сцены, которую они разыгрывают. Наряду с Дэвидом в сериале снимаются его друзья Джефф Гарлин, Сьюзи Эссман и Шерил Хайнс. Комики Боб Эйнштейн, Ванда Сайкс и Ричард Льюис появляются в шоу регулярно. Актёры Тед Денсон и Мэри Стинбёрген появлялись в эпизодах в роли самих себя.