Янис Иванов родился 9 октября 1906 года в г. Прейли, ныне — территория Латвии, (по другим источникам — в деревне Бабры Прельской волости Двинского уезда).
Происходил из русской старообрядческой семьи. Раннее детство провёл в Латвии.
Во время Первой мировой войны семья Ивановых жила в Витебске и Смоленске, в 1920 году возвратилась в Латвию.
В 1924—1931 годах учился в Латвийской консерватории, окончил дирижёрский класс Георга Шнеевойгта; затем дополнительно прошёл мастер-класс по композиции у Язепа Витолса. С 1931 гг. дирижировал симфоническим оркестром Латвийского радио, в 1945—1963 годах был художественным руководителем Латвийского радио. С 1944 года и до конца жизни преподавал в Латвийской консерватории, с 1955 года — профессор. Среди учеников — М. Эйнфелде, Р. Ермакс, Ю. Карлсонс.
В ряде сочинений Яниса Иванова заметна опора на народный мелодизм. В них обнаруживается некоторое влияние русской композиторской школы. Композитор имел свой гармонический язык и самобытное оркестровое мышление. Ему были близки линеаризм, полигармонические, политональные и полиритмические комплексы, 12-тоновый тематизм, ограниченная алеаторика…
В историю латышской музыки вошёл, прежде всего, как создатель монументальных симфонических полотен, в которых давал убедительное художественное воплощение общечеловеческой проблематики.
Автор многочисленных симфонических сочинений, в том числе 21 симфонии (последнюю, датированную 1983-м годом, по клавиру оркестровал Ю. Карлсонс), одна из которых — Четырнадцатая (1971) — написана для струнного оркестра. Создатель Фортепианного (1959) , Скрипичного (1951) и Виолончельного концертов (1938—1945), большого числа произведений для фортепиано, в том числе «24 эскизов».
Среди исполнителей — дирижёры В. Синайский, Л. Вигнерс, Э. Тонс, Т. Лифшиц, Ю. Жуков, виолончелисты Э. Тестелец, Э. Бертовский, М. Вилеруш, скрипачи В. Зариньш, Ю. Шволковскис, пианисты И. Граубиня, К. Блюменталь, Н. Новик и Р. Хараджанян, Т. Бикис и др.
В течение многих лет — член правления СК Латвийской ССР (в 1950—1951 — председатель правления). В последующие годы также член правления СК СССР.
Дважды композитор избирался в Верховный Совет СССР.
Янис Иванов умер 27 марта 1983 года и похоронен в Риге.