Из крестьянской семьи. Русский. В 1925 году семья переехала на станцию Красный Лиман ныне Донецкой области, где отец стал работать на железной дороге. Окончил станционную школу-десятилетку. Работал дежурным техником на станционном радиоузле.
В 1936 году призван в Рабоче-Крестьянскую Красную Армию. Окончил Саратовское бронетанковое училище в 1938 году. По окончании училища командовал взводом легких танков Т-26 в частях Московского военного округа. В сентябре 1939 года участвовал в освободительном походе в Западную Белоруссию, зимой 1939-1940 годов — в советско-финской войне. За мужество в боях на Карельском перешейке награждён своей первой наградой — орденом Красной Звезды. Летом 1940 года направлен на учебу в Военную академию бронетанковых войск РККА.
В октябре 1941 года в ускоренном порядке был выпущен из академии и направлен на фронт Великой Отечественной войны. Воевал начальником штаба отдельного танкового батальона в составе 5-й армии на Западном фронте, участвовал в оборонительном и наступательном этапах битвы за Москву. В декабре 1941 года назначен командиром своего танкового батальона, тогда же вступил в ВКП(б). Отличился при освобождении Можайска.
В марте 1942 года — заместитель начальника штаба формирующейся 199-й танковой бригады. В том же месяце назначен начальником разведотдела 2-го танкового корпуса, формирующегося в Горьком. С июля 1942 года — в составе корпуса в боях на Брянском фронте. В августе 1942 года корпус был переброшен в район Сталинграда и два месяца героически держал оборону севернее города в ходе Сталинградской битвы. С декабря 1942 года участвовал в операции по разгрому немецких войск под Сталинградом и последующем наступлении на среднем Дону, отличился при освобождении городов Миллерово и Ворошиловград. Летом 1943 года в составе Воронежского фронта участвовал в Курской битве и в битве за Днепр. С июля 1943 года — начальник оперативного отдела того же корпуса. В сентябре 1943 года за массовый героизм личного состава и отличные действия в наступлении корпус получил гвардейское знамя и стал именоваться 8-м гвардейским танковым корпусом. Летом 1944 года вновь отличился в Белорусской наступательной операции в составе войск 2-й танковой армии 1-го Белорусского фронта.
С октября 1944 года до конца войны — командир 62-го гвардейского танкового полка в составе того же корпуса, во главе его успешно действовал в составе войск 2-го Белорусского фронта в Восточно-Прусской наступательной операции. Отличился при штурме городов Староград и Гдыня. В войну проявил себя мастером тактических действий и лично отважным офицером. В 24 года стал подполковником, в 26 лет — полковником. За годы войны награждён 5 боевыми орденами.
После войны около года командовал танковым полком. С 1946 года — начальник отдела штаба армии, с 1952 года — заместитель командующего бронетанковыми и механизированными войсками по самоходной артиллерии Белорусского военного округа, с 1953 года — начальник штаба, с 1954 года — командир танковой дивизии в Белорусском военном округе. Окончил Военную академию Генерального штаба в 1958 году.
С 1958 года — первый заместитель начальника штаба Дальневосточного военного округа. С 1961 года — командующий армией. С 1965 года — первый заместитель командующего, а с 1968 года — командующий войсками Московского военного округа. С июля 1972 года — Главнокомандующий Группой советских войск в Германии. Воинское звание «генерал армии» присвоено Е. Ф. Ивановскому указом Президиума Верховного Совета СССР от 3 ноября 1972 года, в возрасте 54 лет, один из самых молодых генералов армии за 70-80-е годы.
С декабря 1980 года — командующий войсками Белорусского военного округа. С февраля 1985 года — Главнокомандующий Сухопутными войсками СССР. С 1989 года — в Группе генеральных инспекторов Министерства обороны СССР. По многочисленным отзывам и воспоминаниям современников, был выдающимся мастером боевой подготовки войск.
В 1971-1989 годах — член ЦК КПСС. Депутат Верховного Совета СССР 8-11-го созывов (1970—1989 гг.).
Жил в Москве, где и скончался 22 ноября 1991 года. Похоронен на Новодевичьем кладбище.
Автор мемуаров.
В г. Витебске (Беларусь) одна из улиц названа именем генерала Ивановского.
Ивановский, Евгений Филиппович на сайте «Герои страны»