Воспитывалась жестоким отчимом и матерью, которая работала на химическом заводе в две смены. Отец умер, когда Оле было 2 года. Старший на 10 лет брат, в детстве в результате перенесенной ангины получил тяжелые осложнения на сердце (трехсторонний порок сердца) и оказавшись парализован, сумел со временем встать на ноги. Скончался в 1983 г. в возрасте 35 лет.
Закончила музыкальную школу по классу фортепиано.
В школе участвовала во всех музыкальных конкурсах и спектаклях. После школы в 1977 году поступила в Московское медицинское училище № 37 (ныне Медицинский колледж № 5) и получила профессию медсестры.
Обучаясь в медицинском училище, Ольга Зарубина и Сергей Коржуков (солист «Лесоповала») участвовали в песенном конкурсе и стали лауреатами. После этого её заметил руководитель группы «Почтовый дилижанс» Александр Заборский и пригласил в группу. Затем на очередном конкурсе самодеятельности на неё обратил внимание Давид Тухманов и написал для неё песню «Так не должно быть» на стихи Леонида Дербенёва. Эту песню она исполнила на «Голубом огоньке» (эфир 1 января 1979) дуэтом с Михаилом Боярским(сама Ольга сообщила, что номер был вырезан из эфира), что принесло ей известность и славу, в хит-параде "Звуковая дорожка" "Московского комсомольца" песня заняла второе место среди всех песен СССР 1979 года, а певица вошла в пятерку самых популярных в СССР. В начале своей карьеры Зарубина пела в ВИА «Музыка», ВИА «Лейся Песня»… С ансамблем «Музыка» поставили рок-оперу на музыку Андрея Богословского «Алые паруса», где она играла Ассоль. Потом поступило предложение перейти работать в Москонцерт. Первым мужем Зарубиной был- Александр Выгузов (Малинин).Он пришёл работать в ансамбль «Метроном», где работала Зарубина.
Зарубина многократно участвовала в программе «Шире круг» (1977—1991, в том числе была ведущей выпусков программы к праздникам 8 марта, 7 ноября и Новому году в 1983). Для неё писали песни самые известные комозиторы и поэты: Алексей Мажуков, Михаил Танич, Леонид Дербенёв, Вячеслав Добрынин, Михаил Рябинин, Игорь Азаров («Мост качается», «Вопрос») и многие другие. Неоднократно участвовала в передаче «Утренняя почта» (1982,1983,1985,1986). В 1985 году вышел миньон «Кукла», изданный фирмой «Мелодия», широко известной стала песня «Заговорные слова». Наибольший успех приходит в конце 1980-х, когда Ольга дважды выходила в финалы телевизионного фестиваля «Песня года» (в 1987 — с самой популярной своей песней «На теплоходе музыка играет», в 1989 — «Разгуляй», также в 1988, 1990 и 1991 участвовала в промежуточных выпусках фестиваля). Певица стала лауреатом фестиваля советской песни в городе Зелёна-Гура (1988, Польша).
В 1988 году на экраны вышел фильм «Приморский бульвар», в котором Ольга Зарубина спела две песни, одну из них («Почему мы не вместе») дуэтом с известным певцом Евгением Головиным. В 1992 году эмигрировала в США, почти 15 лет работала там медицинским переводчиком. В 1991 году Ольга создала один из самых женственных образов на экране, сыграв знахарку в фильме «Безумная Лори».
В 2007 году Ольга Зарубина возвращается в Россию для участия в программе «Ты суперстар!» на канале НТВ. С 2008 года продолжилась её работа на родине. За это время Зарубина приняла участие во многих телевизионных программах, объездила города России с гастрольным туром. В 2012 году выпустила новый диск "Не случайно", заглавная песня - новый дуэт с Сергеем Переверзевым. Интерес к её творчеству не угасает и среди молодёжи.