Родился в Кишинёве в семье провизора Менделя (Эммануила) Якира и его жены Хаи Меерзон.
Учился в Базельском университете и Харьковском технологическом институте.
В 1915 году, как военнообязанный, направлен токарем на военный завод в Одессе. В апреле 1917 года вступил в РСДРП(б). С декабря 1917 года — член исполкома Бессарабского губернского совета, член губкома и ревкома. С января 1918 года командовал красными отрядами в боях с румынскими войсками. Затем комиссар бригады, дивизии, Поворинского боевого участка. С сентября 1918 года — начальник политотдела Южного участка отрядов завесы. В октябре 1918 года — июне 1919 года — член Реввоенсовета (РВС) 8-й армии, командовал группой войск. Находясь на этой должности, принимал участие в терроре против казачьего населения Дона, в частности, издал приказ о процентном уничтожении мужского населения.
В 1919—1920 годах командовал дивизией и группой войск. С октября 1920 года начальник и комиссар 45-й стрелковой дивизии, одновременно командовал различными группами войск на Юго-Западном фронте.
В 1921 командовал войсками Крымского района Киевского военного округа. Командующий войсками Киевского военного округа (ноябрь 1921-21 апреля 1922) (7-с.53;с.59). Командир Киевского военного района Украинского военного округа (1 июня 1922-август 1923) (7-с.59). Командир и комиссар 14-го стрелкового корпуса УкрВО (сентябрь 1923-декабрь 1923). Помощник командующего Вооружёнными Силами Украины и Крыма (декабрь 1923-март 1924).(4с)
В марте 1924 — ноябре 1925 годов — начальник Главного управления военно-учебных заведений РККА. Командующий войсками Украинского военного округа (ноябрь 1925-17 мая 1935) (7-с.64; с.86;8-с.763). Приказом народного комиссара обороны СССР от 17 мая 1935 № 079 назначен командующим войсками Киевского военного округа, член Военного Совета при наркоме обороны СССР (17 мая 1935-1937) (7-с.64; 4с). Арестован 28.05.1937г.(4с)
В 1930—1934 годах — член РВС СССР. С 1930 года — кандидат в члены, с 1934 — член ЦК ВКП(б). На Пленуме ЦК ВКП(б) (февраль — март 1937) при обсуждении вопроса о Н. И. Бухарине и А. И. Рыкове выступил «за исключение, предание суду и расстрел». 10 мая 1937 года переведён на должность командующего Ленинградским военным округом.
28 мая 1937 года арестован. Обратился с письмом к И. В. Сталину и К. Е. Ворошилову с заверением, что он абсолютно не виновен:
По другой версии текст обращения был следующим:
Резолюция Сталина: «Подлец и проститутка».
Иона Якир признал себя виновным в участии в военно-фашистском антисоветском заговоре. 11 июня 1937 года Специальным судебным присутствием Верховного суда СССР приговорён к смертной казни. Расстрелян комендантом административно-хозяйственного управления НКВД В. М. Блохиным. В 1957 году реабилитирован.
Генерал А. В. Горбатов, в середине 20-х годов командуя кавполком, вспоминал о И. Э. Якире так:
Один из основателей партизанского движения и советской диверсионной школы полковник И. Г. Старинов очень много и с теплотой вспоминал о личности Якира и его командирских и воспитательных способностях:
Участник Гражданской войны, крупный военный руководитель и организатор при штабе РККА Семён Аралов приводит такие воспоминания:
Три ордена Красного Знамени (1919, 1919, 1930).