Иванов начинал футбольную карьеру в московском «Динамо», где на протяжении нескольких лет являлся дублёром Льва Яшина. В 1966 году он в составе сборной СССР поехал на Чемпионат Европы среди юношей до 19 лет, и именно он стоял на воротах в финальном матче. Сумев оставить свои ворота в неприкосновенности, Олег помог сборной выиграть чемпионский титул (он был разделён со сборной Италии, так как матч окончился со счётом 0:0, а послематчевые пенальти тогда не практиковались). В следующем году он стал обладателем ещё одного трофея — Кубка СССР.
Почти не играя в составе московского «Динамо», Иванов перешёл в другое «Динамо» — барнаульское. Там он отыграл три сезона, после чего завершил карьеру.
В конце 1980-х годов Иванов познакомился с новой игрой — мини-футболом. Заинтересовавшись, он начал принимать активное участие в её продвижении в СССР. В 1991 году он занял должность начальника сборной СССР по мини-футболу. После нескольких лет работы в мини-футбольной ассоциации перешёл на тренерскую работу. Возглавив московский клуб «Интеко», вывел его в Высшую лигу, затем тренировал молодёжную сборную России, а в 2003 году возглавил первую сборную страны.
Иванов возглавлял сборную России по мини-футболу на двух Чемпионатах Европы: в 2005 году он выиграл с ней серебро, а в 2007 году — бронзу. Также он возглавлял сборную на Чемпионате мира 2008 года, после чего передал должность Сергею Скоровичу.
Ныне возглавляет дубль щёлковского клуба «Спартак-Щёлково».
Игровая карьера
Тренерская карьера