Родился в Ираке. В 1950 репатриировался в Израиль. В 1954 мобилизовался в ЦАХАЛ, в бригаду Голани. Во время Шестидневной войны командовал спецподразделением Шакед.
После войны старался установить дружеские отношения с ливанскими христианами и создал на границе с Ливаном так называемые Добрые погранзаграждения (иврит:???? ?????). В 1978 назначен на должность командира военных сил на территориях Иудеи и Самарии, где прослужил до 1982 г. В 1982 вышел в отставку, однако по просьбе премьер-министра Менахема Бегина остался в должности координатора деятельности правительства на территориях.
В 1984 году окончательно покинул армию и начал политическую деятельность. С начала присоединился к Аарону Абухацире. Затем присоединился к Эзеру Вейцману, основавшему партию Яхад. На выборах 1984 Яхад получила три мандата, включая Бен-Элиэзера. После выборов Яхад объединилась с Маарахом. Бен-Элиэзер быстро стал заметным активистом новой партии. В 1992 способствовал избранию Ицхака Рабина на должность руководителя партии Авода, который после выборов назначил Бен-Элиэзера на должность министра строительства. В 1999 в правительстве Эхуда Барака занял пост министра национальной инфраструктуры.
В 2001 после поражения на выборах и отставки Эхуда Барака вступил вместе с партией в коалицию Шарона, который назначил его на должность министра обороны и параллельно с этим выдвинул свою кандидатуры на пост лидера партии Авода вместо Шимона Переса, где с небольшим преимуществом победил бывшего председателя Кнессета Авраама Бурга. В преддверии выборов в Кнессет 2003 состоялись новые выборы лидера партии Авода, и Бен-Элиэзер проиграл Амраму Мицне.
После утверждения плана размежевания 10 января 2005 партия Авода присоединилась к правительству Шарона и Бен-Элиэзер получил должность министра национальной инфраструктуры. После выборов на должность лидера партии в сентябре того же года, на которых побеждил Амир Перец, Авода вышла из правительственной коалиции и Ариэль Шарон объявил досрочные выборы. В новом правительстве Эхуда Ольмерта 4 мая 2006 Бен-Элиэзер вновь получил должность министра национальной инфраструктуры. В правительстве Биньямина Нетаньяху, сформированном в 2009 году, получил должность министра промышленности и торговли.