Иван Ильич Мозжухин родился 26 сентября (8 октября по новому стилю) 1889 года в селе Кондоль Петровского уезда Саратовской губернии (ныне — Пензенская область). Детство и юность провёл в Пензе. Вся семья увлекалась театром (его старший брат Александр впоследствии стал знаменитым оперными певцом) и Иван с детства выступал в любительских спектаклях, в том числе и в народном театре Пензы. После окончания гимназии два курса отучился на юридическом факультете Московского университета, после чего ушёл в актёры. Работал в антрепризе в провинциальных театрах, затем — в театральной труппе московского Введенского народного дома.
Начав сниматься в кино в 1911 году в фильмах компании Ханжонкова, Мозжухин быстро добился успеха благодаря актёрской выразительности и тому, что с лёгкостью менял амплуа — ему одинаково блестяще удавались и трагические, и комические роли, и герои-любовники, и гротеск. Среди его работ — скрипач Трухачевский в «Крейцеровой сонате» (1911), адмирал Корнилов в «Обороне Севастополя» (1911), Маврушка (он же и гвардейский офицер) в «Домике в Коломне» Чардынина (1913), Чёрт в «Ночи перед Рождеством» Старевича. После начала работы в компании Ханжонкова режиссёра Евгений Бауэра Мозжухин быстро становится величайшей звездой российского кино. В снятом по сценарию Валерия Брюсова фильме Бауэра «Жизнь в смерти» (1914) он сыграл главную роль — доктора Рено, который хочет навеки сохранить нетленной красоту любимой женщины и убивает её, чтобы забальзамировать. Именно в этом фильме впервые появились кадры с «мозжухинскими слезами», которые стали легендой русского кино.
Фильмы с Мозжухиным пользовались громадным успехом и это вызвало интерес нему со стороны конкурирующих кинофирм, которые стали делать актёру всё более заманчивые предложения. В конце концов Мозжухин под предлогом того, что в очередном фильме ему не досталась главная роль (речь идет о фильме «Леон Дрей» по роману С.С.Юшкевича, когда режиссёр Евгений Бауэр вместо И.Мозжухина, как предполагалось, пригласил на главную роль Н.М.Радина), перешёл в киноателье И. Ермольева, где начал работать с Яковом Протазановым. У Протазанова он сыграл роль Германна в «Пиковой даме» (1916) и множество других, ставших классикой русского кино. Вершиной актёрского мастерства Мозжухина считается роль князя Касатского в фильме Протазанова «Отец Сергий» (1918). До 1917 года актёр также играл в театре Корша и Свободном театре.
В феврале 1920 года на греческом товарном судне «Пантера» вместе с другими артистами, режиссёрами и служащими самого знаменитого и процветающего кинопредприятия России — «Товарищества И. Ермольева», такими как Александр Волков, Яков Протазанов, Виктор Туржанский, Наталья Кованько, Иван Мозжухин вместе с женой Натальей Лисенко покинул Россию. Обосновавшееся в предместье Парижа, в Монтройе, «Товарищество Иосифа Ермольева» вскоре было преобразовано в студию «Альбатрос», а Мозжухин стал её ведущим актёром. В 1923 году поставил по собственному сценарию фильм «Костёр пылающий», сыграв в нём несколько ролей — от демонического героя до эксцентрического персонажа. Под названием «Гримасы Парижа» этот фильм с успехом демонстрировался и в советском прокате.
Весной 1926 года Мозжухин заключил контракт с компанией Universal Pictures и уехал в Голливуд. В США под давлением продюсеров он был вынужден изменить фамилию на более короткую «Москин» и сделать пластическую операцию, однако успеха не добился. Снявшись всего в одном неудачном фильме с довольно символичным названием «Капитуляция», Мозжухин вернулся в Европу. С 1928 по 1930 год работал в Германии, исполнил в частности роль Хаджи-Мурата в фильме «Белый дьявол» (Der wei?e Teufel, 1930) режиссёра Александра Волкова.
Появление звукового кино положило конец его актёрской карьере — у него был, во-первых, сильный акцент, а во-вторых — тембр голоса, который плохо получался в записи. В своём единственном удачном звуковом фильме «Сержант Икс» (Le sergent X, 1932) режиссёра Владимира Стрижевского Мозжухин играл русского, который постепенно осваивает французский язык.
Всего Иван Мозжухин снялся в более чем сотне фильмов (для некоторых из них он также писал сценарии).
Остаток жизни Иван Мозжухин прожил в уединении и умер от скоротечной чахотки в Париже 17 января 1939 года. Похоронен на кладбище Сент-Женевьев-де-Буа.