Родился в семье крестьянина в селе Крутец Малиновской волости Сердобского уезда (ныне Ртищевский район Саратовской области ). Русский. В 1914—1918 годах работал в Астрахани на рыбных промыслах. В Красной Армии с 1918 года. В 1918—1920 годах воевал на фронтах гражданской войны, в 1923—1925 годах принимал участие в разгроме басмачей в Туркестане сначала рядовым кавалеристом, затем командиром отделения, взвода и, наконец, сабельного эскадрона. Окончил курсы усовершенствования командно-начальствующего состава в Ленинграде. С 1934 года в бронетанковых войсках.
Великая Отечественная война застала Е. Г. Пушкина во Львове, в должности командира 32-й танковой дивизии. Сражался с немецко-фашистскими захватчиками на Южном, Юго-Западном, Сталинградском и 3-м Украинском фронтах. Участвовал в обороне Бердичева, Умани, Днепропетровска, Сталинградской битве, освобождении Донбасса и Правобережной Украины.
В боях под Днепропетровском, длившихся с 19 по 25 августа 1941 года, 8-я танковая дивизия 4-го механизированного корпуса полковника Пушкина уничтожила 80 вражеских танков и много другой боевой техники и живой силы противника. Упорной обороной плацдарма танкисты обеспечили нашим войскам планомерный отход за Днепр и занятие обороны на левом берегу реки.
Указом Президиума Верховного Совета СССР от 9 сентября 1941 года Ефиму Григорьевичу Пушкину за образцовое и умелое руководство, личное мужество при обороне города Днепропетровска было присвоено звание Героя Советского Союза.
Весной 1942 года был назначен командиром вновь формируемого 23 танкового корпуса, который принимал участие в боевых операциях войск Юго-Западного фронта.
За ряд успешно выполненных операций по разгрому врага на подступах к Волге Е. Г. Пушкину присвоили звание генерал-лейтенанта танковых войск и назначили командующим бронетанковыми и механизированными войсками Юго-Западного фронта.
За годы войны Е. Г. Пушкин был более 10 раз персонально отмечен в приказах Верховного Главнокомандующего СССР И. В. Сталина. Впервые в январе 1942 года за освобождение Барвенково.
Погиб 11 марта 1944 года в результате осколочного ранения во время авианалёта на посёлок Баштанка под Николаевом, где располагался командный пункт танкового корпуса. Его прах покоится на Октябрьском мемориальном кладбище города Днепропетровска.
Жена — Клавдия Ивановна. Она до конца хранила в своей квартире-музее реликвии, свидетельствующие о жизни и подвиге Ефима Григорьевича. Умерла Клавдия Ивановна 16 января 1984 года на 83-м году жизни, похоронена на Сурско-Литовском кладбище. Сын передал личные вещи отца Днепропетровскому историческому музею.
Сын — Пушкин, Виктор Ефимович — профессор, член-корреспондент НАУ, заведующий кафедрой истории и политической теории, директор института гуманитарных проблем Национального горного университета.
Внучка — Пушкина, Елена Викторовна — кандидат исторических наук, доктор юридических наук, директор института права Днепропетровского университета экономики и права.