Эдвард Джеймс Олмос родился и вырос в восточном Лос-Анджелесе, штат Калифорния, в семье сварщика Педро Олмоса и его жены Элеоноры Хуизар, работавшей в центральной больнице Лос-Анджелеса. Его отец был мексиканским иммигрантом, а мать — американкой мексиканского происхождения. Элеонора встретила своего мужа во время посещения Мехико. Пара поженилась и у них родились трое детей: Питер, Эдвард и Эсперанса. Родители Эдди (так актёр предпочитает, чтобы его называли при общении) развелись, когда ему было 8 лет.
В детстве Олмос мечтал быть профессиональным игроком в бейсбол, завоевав в 14 лет титул чемпиона (англ. the Golden State batting champion) штата Калифорния. В это же время юноша увлёкся пением и игрой на пианино. В 1961 году он вместе с другом создал рок-группу под названием «Тихий океан» (англ. Pacific Ocean) и стал её вокалистом. В течение нескольких лет «Тихий океан» успешно выступал в клубах Лос-Анджелеса, в 1968 году рок-музыканты смогли выпустить альбом «Чистилище» (англ. Purgatory).
В 1964-м Эдвард, закончив среднюю школу, поступил в колледж восточного Лос-Анджелеса (англ. East Los Angeles College), а затем и в Университет штата Калифорния. Вначале он изучал психологию и криминологию, но впоследствии перешёл на курс актёрского мастерства, продолжая давать концерты со своей группой. После того как «Тихий океан» распался, Олмос, у которого уже было двое детей, занялся доставкой антикварной мебели, чтобы поддержать семью.
В начале 70-х Олмос, продолжая заниматься антиквариатом, по вечерам работал в экспериментальном театре, а затем начал появляться в эпизодических ролях злодеев в таких телесериалах как «Коджак», «Отдел 5-O», «Старски и Хатч». Первым его прорывом стала главная роль в театральной музыкальной постановке «Костюм фасона „зут“». Пьеса попала на Бродвей, и за роль Эль Пачуко Олмос был номинирован на театральную премию «Тони», получив положительные отзывы критиков, а в 1981 году мюзикл «Костюм фасона „зут“» был экранизирован. После этого актёр появляется в ролях второго плана в различных фильмах, включая культовый научно-фантастический фильм «Бегущий по лезвию», а также сыграл главную роль в историческом — «Баллада о Грегорио Кортесе».
С 1984 по 1989 год Эдвард Джеймс Олмос исполнял роль лейтенанта Мартина Кастилло в телесериале NBC «Полиция Майами» вместе с Доном Джонсоном и Филиппом Майклом Томасом, за что в 1985-м был награждён «Эмми», а затем и «Золотым глобусом».
Вернувшись в кино, актёр получил в 1988 году номинацию на «Оскар» как лучший актёр за биографическую роль учителя математики Хайме Эскаланте (англ. J. Escalante) в фильме «Выстоять и сделать». В 1992 году состоялся его режиссёрский дебют в фильме «Американизируй меня», где Олмос также выступил и как актёр, сыграв Сантану — влиятельного босса «мексиканской мафии» в конце 60-х годов. В 1995-м за роль в телефильме «Огненный сезон» актёр получил свой второй «Золотой глобус». В 1997 году Олмос сыграл в фильме «Селена» отца певицы Селены Кинтанилья, роль которой исполнила Дженнифер Лопес.
В 2001 году Олмосу досталась роль диктатора Доминиканской Республики Рафаэля Трухильо в фильме «Времена бабочек». Он также сыграл судью Роберто Мендоса в драматическом телесериале NBC «Западное крыло» (два эпизода, 1999—2000). Свой второй фильм «Забастовка» Эдвард Джеймс Олмос снял в 2006 году, рассказав в нём о крупнейшей в США студенческой забастовке латиноамериканцев в 68-м.
С 2003 года Олмос исполнял роль Уильяма Адамы в фантастическом мини-сериале, а затем телесериале «Звёздный крейсер „Галактика“», ремейке версии 1978 года, и в телефильмах по мотивам телесериала. За эту роль он получил премию «Сатурн» 2009 года в номинации «Лучший актёр телесериала». Олмос выступил также режиссёром телефильма «Звёздный крейсер „Галактика“: План».
После завершения работы над «Планом» Эдвард Джеймс Олмос принял предложение сыграть в новом фильме Мишеля Гондри «Зелёный Шершень» по одноимённому комиксу о супергерое Бритте Рейде. В 2010 году актёр снялся в одном из эпизодов «C.S.I.: Место преступления Нью-Йорк». В 2011-м он присоединился к съёмочной группе сериала «Декстер», в качестве одного из ведущих приглашённых актёров шестого сезона.
В 1971 году Эдвард Джеймс Олмос женился на Кайе Кил (развелись в 1992 году), дочери актёра Говарда Кила, с которой познакомился в ночном клубе, где выступала группа «Тихий океан». В браке у них родились двое сыновей: Боди и Мико, оба ставшие актёрами. Актёр имеет трех приёмных детей: сыновей — Майкла Д. и Брэндона, а также дочь — Тамико. В 1994 году он женился на актрисе Лоррейн Бракко, которая развелась с ним в 2002-м после пяти лет раздельной жизни. В том же году состоялась третья свадьба Олмоса с пуэрториканской актрисой Лимари Надаль, которая моложе мужа на 31 год.