Родился в Харькове (Украина), в семье рабочего.
С 1918 года жил в городе Луганск (Украина). В 1921—1927 годах беспризорничал.
Окончил школу ФЗУ, рабфак и лётно-планёрную школу. Работал машинистом на заводе в Луганске. Окончил Ворошиловградскую военно-авиационную школу пилотов.
В РККА с 1932 года. С мая 1937 по январь 1938 года участвовал в боевых действиях в Испании.
После Испании Фёдоров стал испытателем в КБ Лавочкина.
21 августа 1937 года был легко ранен в аварии на посадке, вернулся в строй. В 1939 году окончил Высшие офицерские авиационные курсы. С мая по октябрь 1940 года — лётчик-испытатель авиазавода № 21 (г. Горький); испытывал серийные истребители И-16.
С ноября 1940 по февраль 1942 года был в командировке в Китае. Начальник лётно-испытательной станции авиазавода «600» в г. Урумчи на котором собирались истребители И-16 для китайских ВВС. В мае 1941 года, после катастрофы лётчика-испытателя С. Н. Викторова, он был снят с этой должности и остался работать на заводе рядовым лётчиком-испытателем.
В феврале 1942 года Иван Евграфович вернулся на авиазавод № 21 (г. Горький), где испытывал серийные истребители ЛаГГ-3. В июле 1942 года, перегоняя ЛаГГ-3 на фронт, самовольно остался на Калининском фронте. С сентября 1942 года — на фронтах Великой Отечественной войны. В том же году принят в КПСС.
С сентября 1945 года — старший лётчик-испытатель ОКБ С. А. Лавочкина. В числе первых начал испытывать отечественные реактивные истребители. Провёл испытания самолётов Ла-150, Ла-150М, Ла-150Ф, Ла-156, Ла-174ТК. В 1947 году поднял в небо и провёл испытания первого отечественного самолёта со стреловидным крылом Ла-160. В 1948 году при испытаниях самолёта Ла-168 первым в стране достиг скорости 1000 км/ч. В 1948 году поднял в небо и провёл испытания реактивного истребителя Ла-15.
За мужество и героизм, проявленные при испытании новой авиационной техники, полковнику Фёдорову Ивану Евграфовичу Указом Президиума Верховного Совета СССР от 5 марта 1948 года присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 8303).
С 1954 года полковник Фёдоров — в запасе. До 1974 года работал заведующим отделом в Министерстве иностранных дел СССР.
Жил в Москве. Умер 12 февраля 2011 года, похоронен в Москве.
В 2007 году об И. Е. Федорове был снят полнометражный документальный фильм «Старик и небо» (режиссёр Михаил Масленников, сценарий Александра Анненского), который удостоился специального Диплома и Медали «Пётр I» за новизну раскрытия образов героев Великой Отечественной войны на Пятом Международном фестивале военного кино имени Ю. Н. Озерова.
Премьера картины состоялась ко Дню Российской Армии в феврале 2008 г. на телеканалах «Культура» и «РТР-Планета».
После выхода на экраны фильма «Старик и небо» последовал ряд критических публикаций , вызванных озвученными Фёдоровым фактами якобы из своей биографии.
Например, по словам Фёдорова, почти за год войны в Испании он одержал 20 воздушных побед и совершил два тарана. За заслуги Иван Евграфович был представлен к званию Героя Советского Союза, но получить Золотую звезду Фёдорову было не суждено из-за драки со стрельбой непосредственно во время банкета в Кремле. При этом Фёдоров несправедливо был объявлен одним из зачинщиков скандала, и в результате представление о награждении было отозвано. Из ВВС Фёдорову также пришлось уйти.
После того, как Иван Евграфович попал в 1942 году на фронт, он за первые полтора месяца сбил 18 немецких самолетов и уже в октябре 1942 года был назначен командиром 157-го истребительного авиаполка. Весну 1943-го он встретил уже командиром 273-й авиадивизии. А до этого с лета 1942 до весны 1943 года Иван Евграфович (одновременно с авиаполком) командовал группой из 64 летчиков-штрафников, созданной по личному распоряжению И. В. Сталина.
Также по словам Фёдорова, он принимал участие в Корейской войне, а во всех военных конфликтах, в которых участвовал, одержал 134 воздушные победы.
Однако имеются свидетельства, что не всё, сообщённое Фёдоровым, является истиной.
Например, в своём открытом письме Заслуженный лётчик-испытатель СССР, Герой Советского Союза, генерал-лейтенант авиации в отставке С. А. Микоян и Заслуженный лётчик-испытатель СССР, Герой Советского Союза, полковник в отставке А. А. Щербаков заявляют следующее:
Тем не менее Юрий Смирнов в «Крыльях Родины», № 7, 2000 писал:"В архивном личном деле № 8803 значится, что за время пребывания в Испании он «совершил 286 боевых вылетов, провёл 36 воздушных боёв, в которых показал исключительные образцы ведения воздушного боя. Сбил лично 11 самолётов противника и 13 в группе».
В характеристике на летчика Федорова, составленной по месту прохождения службы еще до войны, указывается высокий профессионализм и отличная техника пилотирования самолета, но вместе с тем отмечено болезненное тщеславие, тяга к наградам, склонность к самовозвеличиванию. Была и совсем некрасивая история: Федоров, служивший инструктором в Качинском военном авиационном училище летчиков, пришел в одну из средних школ города Симферополя, и, объявив себя участником Челюскинской эпопеи, выступал перед школьниками с рассказом о своих подвигах и был принят в почетные пионеры. История дошла до начальства, Федоров отделался строгим выговором с занесением в личное дело.
В среде историков отечественной авиации Иван Евграфович Федоров снискал репутацию «Барона Мюнгхаузена советских ВВС». Разоблачение началось с мелочей: Иван Евграфович часто рассказывал выдуманную им историю о том, как Герман Геринг лично вручил ему рыцарский крест за блестящие полеты на немецких самолетах в Германии (Федоров был участником предвоенной командировки советских авиационных специалистов в эту страну). И всё бы хорошо, но знак в виде белой эмалированной свастики, который Федоров демонстрировал в доказательство своей правоты, оказался значком фашистской молодежной организации Айзсарг. Примерно то же произошло с историей про немецкого аса фон Берга, лично сбитого Федоровым в воздушном бою. Федоров, якобы, стал обладателем личной сабли фон Берга и часто показывал ее непосвященным. На самом деле «сабля фон Берга» представляет собой наградной тесак, которыми в конце 19-го века награждали служащих почтового ведомства. Летчика же с такой фамилией в списках немецких асов нет.
Заявляемое Федоровым число побед официального подтверждения не имеет. Существование в советских ВВС «полка штрафников» официального подтверждения не имеет (хотя не вызывает никаких сомнений существование штрафных авиаэскадрилий, данные о которых были рассекречены в 2004 г.).
К самому Федорову неприязненно относились конструктор А. Яковлев, командарм-16 С. Руденко, командарм-3 Папивин.
В 2009 г. издал большую книгу о Фёдорове писатель Вячеслав Шалагинов, который относится с полным доверием ко всем рассказам своего героя.
Автор книги общался с Фёдоровым около двух лет (на момент знакомства с писателем лётчику было уже 92 года). Шалагинов не только фиксировал по памяти всё услышанное от Фёдорова, но и работал в Центральном архиве Министерства обороны РФ, где надеялся найти документы, подтверждающие сообщаемые его собеседником сведения. Некоторые факты в самом деле подтвердились, например — факт существования в 3-й воздушной армии штрафных эскадрилий. Это словосочетание употреблено, в частности, в приказе командующего 3-й воздушной армией генерал-майора Громова «О чрезвычайных происшествиях в 3 ВА и мероприятиях по их ликвидации» от 18 августа 1942 г. № 185.
В целом книга Шалагинова представляет собой причудливую смесь интереснейших выписок из архивных документов военной поры и устных рассказов Фёдорова, некоторые из которых, вопреки установке публикатора, воспринимаются всё же как «военные байки».
Рыцарский крест с мечами и дубовыми листьями (1939 год, вручил Герман Геринг). За мастерство русского гостя во время визита в Германию. (А.А. Щелоков "Увлекательная геральдика" Москва "Эксмо" 2007 год)