Родился 25 декабря 1904 года в деревне Вородьков 2 (ныне в Кричевском районе Могилёвской области).
В 1928 году был призван на службу в РККА. В 1931 году окончил кавалерийскую школу, в 1932 году — бронетанковые курсы. Служил на командных и штабных должностях.
Во время Великой Отечественной войны был начальником штаба танкового полка, заместителем начальника и начальником штаба танковой бригады, с сентября 1943 года командовал 112-й (с октября 1943-го года — 44-я гвардейская) танковой бригадой, которой в начале 1943 года было передано в дар 53 танка (32 танка Т-34 и 21 Т-70), построенных на средства, собранные монгольским народом (один из танков, дошедший до Берлина, ныне установлен у подножия горы Зайсан в столице Монголии, а на горе находится памятник советским воинам), участвовал в Московской и Курской битвах, освобождении Украины и Польши и боях за Берлин.
За умелое руководство бригадой (1-я гвардейская танковая армия, 1-й Украинский фронт)в ходе Львовско-Сандомирской операции личное мужество, отвагу и героизм гвардии полковнику И. И. Гусаковскому 23 сентября 1944 было присвоено звание Герой Советского Союза.
За организацию форсирования бригадой (1-я гвардейская танковая армия, 1-й Белорусский фронт) реки Пилицы и овладение городом Лович (Польша) полковник Гусаковский 6 апреля 1945 был награждён второй медалью «Золотая Звезда».
В 1948 году окончил Военную академию Генштаба. Командовал дивизией, бронетанковыми и механизированными войсками военного округа, был заместителем командующего войсками военного округа. В 1959—1963 — командующий войсками Прибалтийского военного округа. В 1963—1970 — начальник Главного управления кадров министерства обороны СССР.
В 1968 году Иосифу Ираклиевичу Гусаковскому было присвоено звание «генерал армии». С 1970 — в Группе генеральных инспекторов Министерства Обороны СССР.
Скончался 20 февраля 1995 года. Похоронен в Москве на Новодевичьем кладбище.
Советские награды:
Монгольские награды:
Бронзовый бюст установлен в Могилёве.