Иван Васильевич Васильев родился в семье крестьянина. Окончил начальную школу. В тринадцать лет его отдали в учение к сапожнику. Позднее работал токарем в Петрограде.
В 1917 году вступил в Красную Гвардию, с 1918 года — в Красной Армии. Принимал участие в Гражданской войне, сражаясь с деникинцами на Восточном и Южном фронтах и с белополяками на Западном фронте. В 1920 году, находясь на фронте, вступил в РКП(б) и стал политработником, получив назначение политруком роты внутренних войск Всероссийской Чрезвычайной Комиссии (ВЧК). С 1923 года служил в пограничных войсках на западной границе. За это время он дважды получал именное боевое оружие.
В 1925 году окончил Высшую пограничную школу ОГПУ, а в 1933 году — Военно-политическую академию имени В. И. Ленина. Занимал посты военного комиссара полка войск ОГПУ, позднее — начальника политотдела и заместителя начальника Управления пограничных и внутренних войск НКВД Белорусской ССР. Избирался депутатом Верховного Совета Белорусской ССР. Принимал участие в советско-финляндской войны 1939—1940 годов.
В июне 1941 года И. В. Васильев занимал должность начальника отдела политпропаганды соединения на западной границе, но вскоре он был назначен военным комиссаром дивизии, а затем — корпуса. В 1942 году Васильев стал начальником политотдела 62-й армии (позднее переименнованной в 8-ю гвардейскую). В её составе генерал Васильев воевал на Курской дуге, участвовал в боях за Сталинград, за освобождение Левобережной Украины и Киева.
Со 2 августа 1943 года И. В. Васильев — член Военного совета 1-й гвардейской армии, которой командовал генерал-полковник А. А. Гречко.
В начале августа 1944 года войска 4-го Украинского фронта, включая 1-ю гвардейскую армию, продолжали наступление на юго-западном направлении, очищая Дрогобычский район. В одной из наступавших частей находился и генерал-майор И. В. Васильев. Их целью было овладение населённым пунктом на реке Стрый. В ходе боя И. В. Васильев был убит. С воинскими почестями генерал-майор Васильев был похоронен в центре Дрогобыча.
Ходатайство о присвоении И. В. Васильеву звания Героя Советского Союза подписал генерал-полковник А. А. Гречко.
Позднее Маршал Советского Союза А. А. Гречко в своей книге «Через Карпаты» писал:
Да, в жестоких боях враг нёс большие потери, но и мы теряли своих боевых товарищей. 11 августа 1944 года недалеко от села Кринтята погиб член Верховного совета 1-й гвардейской армии генерал-майор И. В. Васильев. Отважный генерал, опытный политработник, прекрасной души человек, он был глубоко уважаем в войсках армии.