Родился в семье врача Иосифа Моисеевича Неизвестного (1898-1979) и Беллы Абрамовны Дижур (1903—2006), писавшей научно-популярные книги для детей.
С 1939 по 1942 гг. участвовал во Всесоюзных конкурсах и посещал школу для художественно одаренных детей сначала в Ленинграде, а в годы войны — в Самарканде.
В 1942 году в возрасте 17 лет Неизвестный был призван в Красную Армию. Служил в воздушно-десантных войсках 2-го Украинского фронта. В конце Великой Отечественной войны 22 апреля 1945 г. в Австрии был тяжело ранен, признан погибшим и за проявленный героизм «посмертно» награждён орденом Красной Звезды.
После войны некоторое время преподавал черчение в Суворовском училище в Свердловске, в 1946—1947 гг. обучался в Академии Художеств в Риге, а затем, в 1947—1954 гг. — в Московском художественном институте им. В. И. Сурикова и на философском факультете Московского государственного университета.
В 1955 году становится членом секции скульпторов Московского отделения Союза художников СССР и до 1976 года занимается художественной деятельностью в СССР.
В 1976 году Неизвестный эмигрирует в Цюрих, Швейцария, а в 1977 г. переезжает в Нью-Йорк, США.
Скульптурные композиции Неизвестного, выражающие его экспрессию и мощную пластику, часто составлялись из частей человеческого тела. Он предпочитал создавать скульптуры в бронзе, но его монументальные скульптуры создавались из бетона. Наиболее известные монументальные произведения Неизвестного объединены в цикл, над которым Неизвестный работал с 1956 года. Лучшим произведением этого цикла является скульптура «Дерево Жизни».
За свои работы Неизвестный подвергся критике со стороны тогдашнего главы Советского Союза Н. С. Хрущёва, который в 1962 году на выставке назвал его скульптуры «дегенеративным искусством»:
Позже Эрнст Неизвестный создал надгробный памятник Н. С. Хрущёву (Новодевичье кладбище).
Наиболее значительным произведением Неизвестного в советский период является «Прометей» во Всесоюзном пионерском лагере Артек (1966).
В 1980-х годах Неизвестный много раз выставлялся в галерее Магна (Magna Gallery) в Сан-Франциско. Его выставки имели большой успех. По заказу галереи Магна в конце восьмидесятых годов Неизвестный создал цикл «Man through the Wall», который был посвящен крушению коммунизма. В эти же годы Неизвестный читал лекции в университетах Орегона в городе Юджин и в университете Беркли в Калифорнии.
В 1994 году создал статуэтку ТЭФИ.
В 1996 году Неизвестный закончил своё монументальное (высотой в 15 метров) произведение «Маска скорби», посвященное жертвам репрессий в Советском Союзе. Эта скульптура установлена в Магадане.
Неизвестный живёт в Нью-Йорке и работает в Колумбийском университете. Он часто посещает Москву, где праздновал свой 80-летний юбилей.
В Уттерсберге (швед. ) (Швеция) существует музей скульптур Неизвестного.
Несколько скульптурных изображений распятия, созданных Неизвестным, приобрёл папа римский Иоанн Павел II для музея Ватикана.
Одна из последних работ Эрнста Неизвестного — памятник Сергею Дягилеву, установленный в Перми.
В соответствии с Указом Президента Российской Федерации, Государственная премия Российской Федерации 1995 года присуждена «Неизвестному Эрнсту Иосифовичу, скульптору, — за серию скульптурных произведений из бронзы».
Зарубежный почётный член Российской академии художеств.
Памятник на могиле Н.С.Хрущева
Скульптура «Золотое дитя» установлена в морском порту города Одесса 9 мая 1995 года
Мемориал «Память шахтёрам Кузбасса», Кемерово
Исход и Возвращение - Монумент жертвам депортации калмыков в декабре 1943 года, Элиста, Калмыкия