Родился в семье эмигрантов Абрама К. и Анны Гетлин (уроженки Пинска). Ли Кониц начинал музыкантом-самоучкой. В 1938 году он покупает кларнет и самоучитель игры, а в 1939 году — тенор-саксофон. Впоследствии играл в основном на альт-саксофоне. Образование получил в колледже Рузвельта.
В 1948 году Кониц играет в Нью-Йорке вместе с Майлсом Дэвисом и Джилом Эвансом. Эти выступления в 1948 — 1950 годах легли в основу стиля Прохладный джаз. В начале 1950-х годов Кониц постепенно отходит от «прохладного джаза». В 1952 году он выступает в Торонто, затем — в 1952-1954 — в джаз-бэнде Стэна Кентона. В 1952-м году он участвует как солист в записи знаменитого кентонского альбома New Concepts of Artistry in Rhythm, в 1953 году записывается вместе с Джерри Маллигеном.
В январе 1956 года Л.Кониц, вместе с Гансом Коллером, Зутом Симсом и Ларсом Галлином, участвует в гастрольном турне по Европе. Начиная с 60-х годов XX столетия многократно выступает в Европе, часто в сопровождении только пианиста. За время своей музыкальной карьеры Ди Кониц записал более 150 джазовых альбомов.
В 1992 году музыкант был удостоен самой престижной в джазовом мире датской премии Джазпар, аналога Нобелевской премии в области джазовой музыки, и дотируемой ежегодно в размере 200.000 датских крон.