Воспитанник сумского футбола Гусев начал профессиональную карьеру в киевском «Арсенале». Летом 2003 года он перешёл в «Динамо». В то же время Гусев получил приглашение в сборную Украины, и вскоре стал полузащитником основного состава национальной команды. На Чемпионате мира 2006 года Олег забил победный гол в послематчевой серии пенальти поединка со Швейцарией. После хорошей игры на Чемпионате мира Гусевым заинтересовался французский «Лион». Однако президент «Динамо», Игорь Суркис, назвав Гусева одной из будущих звёзд киевского клуба, наряду с Артёмом Милевским, отказался продавать футболиста.
12 апреля 2008 года в матче чемпионата Украины Гусев перепрыгнул ногу защитника, выполнявшего подкат, и неудачно приземлился. Передние крестообразные связки и два мениска были повреждены. Ему была сделана операция. Олег вернулся на поле 31 октября — отыграл первый тайм во встрече дублёров. В целом, после травмы Гусев не смог пробиться в основной состав «Динамо», появляясь лишь в отдельных матчах. Он очень удачно вышел на замену в домашней встрече против казанского «Рубина» в рамках Лиги чемпионов УЕФА: сыграл просто великолепно и забил гол, окончательно похоронивший надежды россиян на удовлетворительный итог.
В 2010 году сборную Украины возглавил Мирон Богданович Маркевич, который стал использовать Гусева на позиции правого защитника.