Родился в небогатой крестьянской семье, работал учителем в сельской школе. Украинец. С началом Первой мировой войны мобилизован и отправлен в Одесское военное училище, которое окончил в 1916 году. По окончании обучения отправлен на Румынский фронт, где в звании поручика командовал ротой.
После Февральской революции 1917 года был избран членом полкового комитета, а затем председателем исполкома солдатских депутатов в Кишинёве. В феврале 1918 года вступил в ВКП(б). Служил комендантом района Особой армии Одесского военного округа, помощником военрука Воронежского губвоенкомата, врид начальника штаба 9-й армии. Участвовал в боях с румынскими и немецкими оккупационными войсками в Бессарабии и на Украине. С июля 1919 года начальник штаба (c 18.08 по 19.10 врид начальника) 45-й стрелковой дивизии. С апреля 1921 года начальник штаба командующего вооруженными силами Украины и Крыма, с июля 1921 года начальник штаба дивизии. В 1922—1923 годах командир дивизии. В 1924 году окончил военно-академические курсы усовершенствования. В 1924—1928 и 1930—1931 годах командовал корпусом, в 1928—1930 годах начальник Командного управления Главного управления РККА. В 1931—1935 годах помощник, затем заместитель командующего Ленинградским военным округом.
В 1935 году в звании комкора назначен командующим войсками вновь созданного Уральского военного округа и членом Военного Совета при Наркоме обороны СССР. Участник февральско-мартовского пленума ЦК ВКП(б) в 1937 году.
11 марта 1937 года арестован вместе со своим заместителем, комкором М. И. Василенко, по «делу Тухачевского», признал себя виновным, несмотря на ходатайство Якира 1 июля был осужден и в тот же день расстрелян на Коммунарке. Полностью реабилитирован в 1956 году.