Окончил Одесскую лётную школу (1938). Участник Великой Отечественной войны, лётчик-истребитель. С июня 1941 по сентябрь 1943 года совершил 238 боевых вылетов, провёл 25 воздушных боёв. К февралю 1942 года сбил лично 6 и в группе 2 самолета противника.
Указом Президиума Верховного Совета СССР от 21 июля 1942 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистскими захватчиками и проявленные при этом мужество и героизм, майору Ивану Михайловичу Дзюбе присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 601).
С 1943 года — лётчик-испытатель. Заслуженный лётчик-испытатель СССР (1961). В 1972 году вышел в отставку в чине полковника.
Похоронен на кладбище деревни Леониха Щёлковского района Московской области.