Начал выступления в клубе «Нефтчи» (Баку) в 1986 году.
В октябре 1991 перешел в клуб 2-й лиги «Динамо» (Гянджа), где за 4 игры забил 2 мяча.
В апреле 1992 провел 1 игру за российский клуб «Терек» (Грозный), после чего вернулся в Азербайджан. До августа 1992 играл за «Туран» (Товуз), вместе с которым завоевал «бронзу» 1-го чемпионата Азербайджана. В октябре 1992 сыграл еще одну игру за «Терек» и более на поле в 1992 году не выходил. В 1993 в составе команды отыграл 13 игр, забил 1 гол. Из-за политической нестабильности в Чечне по завершении сезона покинул команду.
С 1994 снова играл за «Туран», стал чемпионом сезона 1993/94. В сезоне 1994/95 дебютировал в еврокубках — провел 1 игру за «Туран» против турецкого «Фенербахче».
Со 2-й половины сезона 1995/96 — снова в составе «Нефтчи» (Баку). По итогам сезона стал чемпионом и обладателем кубка страны. За 2 последующих сезона особых успехов не добился.
В сезоне 1998/99 перешел в «Кяпаз» (Гянджа). С командой стал чемпионом страны и лучшим бомбардиром сезона с 18 мячами. В сезоне 1999/2000 вместе с командой взял Кубок Азербайджана.
Накануне сезона 2000/2001 подписал контракт с турецким Эрзурумспором. За команду провел 2 игры, после чего получил тяжелую травму и выбыл до конца сезона. Усугубило положение и то обстоятельство, что главный тренер «Эрзерумспора», азербайджанский специалист Руслан Абдуллаев, который и пригласил Рзаева, после разгрома от «Галатасарая» со счетом 0:7 подал в отставку. В итоге, уже в сентябре 2000 Рзаев вернулся в Азербайджан.
В 2001 перешел в клуб азербайджанской премьер-лиги «Шамкир», с которым также завоевал «золото».
В середине сезона 2001/02 перешел в «Карабах» (Агдам).
В 2003-2005 - снова в составе «Нефтчи» (Баку).
Сезон 2005/06 провел в «Олимпик» (Баку). В начале 2006 из-за конфликта с руководством клуба был отчислен из команды, но уже в апреле 2006 года был снова принят в команду (пригласило новое руководство). Завершил футбольную карьеру по окончании сезона.
В 2007—2008 — главный тренер Карвана. Однако при нем клуб вылетел из высшей лиги. Работал тренером-селекционером клуба «Габала». На середину 2011 года — тренер клуба «Кяпаз».
С 1992 по 2001 год защищал цвета национальной сборной Азербайджана. Провел 35 игр, забил 5 мячей.