Родился в семье матроса. Окончил два класса учительской семинарии. С 1917 года — рядовой царской армии. С 1918 года в рядах Красной Армии. Участник гражданской войны. 5 раз ранен.
В 1927 году окончил кавалерийские курсы усовершенствования комсостава РККА. Прошёл путь от командира эскадрона до командира дивизии. В должности командира стрелковой дивизии участвовал в советско-финской войне. В июле 1940, в неполные 40 лет, минуя уровень командующего корпусом, был назначен сразу командующим армией. Под начало И. Н. Музыченко была отдана 6-й армия РККА, дислоцированная в районе Львова.
В начале Великой Отечественной войны 6-я армия под командованием И. Н. Музыченко в составе Юго-Западного фронта участвует в приграничных сражениях. В августе 1941 года в ходе Битвы под Уманью 6-я и 12-я армии Южного фронта попали в окружение. При попытке выхода из окружения командарм Музыченко, как и многие бойцы из его армии, попал в плен. До 1945 года находился в плену. 29 апреля 1945 года освобождён из плена американскими войсками.
С мая по декабрь 1945 года проходил проверку в НКВД. 31 декабря возвращён в ряды Советской Армии. В 1947 году окончил Высшие академические курсы при Военной академии Генштаба. В отставке с октября 1947 года. Умер 8 декабря 1970 года в Москве.