Бараха начинал играть в футбол в своём родном городе за «Вальядолид», в период 1993-96 провёл за клуб в чемпионате 41 матч и забил два мяча. Затем полузащитник оказался в мадридском «Атлетико», однако первые три года играл за дублеров. В сезоне-1999/2000 провальное выступление «матрасников» в чемпионате позволило Барахе попасть в основу и проявить себя в полной мере. «Атлетико» всё равно вылетел, однако смог продать недавнего дублёра в «Валенсию» за рекордные для последней 11,1 млн долларов.
Уже в первом своём сезоне за новый клуб Бараха стал ключевым игроком команды и дошёл до финала Лиги чемпионов, где испанцы проиграли по пенальти (свой одиннадцатиметровый Бараха забил). В следующем году он помог «Валенсии» впервые за 31 год выиграть чемпионат Испании, став лучшим бомбардиром клуба с 7 забитыми мячами в 17 играх. В сезоне-2003/04 он забил уже 8 мячей, а «Валенсия» вновь стала чемпионом и выиграла Кубок УЕФА. С 2006 года Бараху преследуют травмы, из-за которых он, в частности, пропустил ЧМ-2006. Всего за десять сезонов в клубе он провёл более 250 игр и забил 41 гол только в первенстве Испании.
Летом 2010 г. закончился контракт Барахи с «Валенсией». Матч 38-го тура чемпионата Испании (сезон 2009/10) против «Тенерифе» (1:0) стал последним в карьере центрального полузащитника, объявившего об уходе из профессионального спорта.
С «летучими мышами» Бараха провел ровно 10 сезонов — в этот отрезок вместились 260 матчей и 41 гол. Единственным турниром, который так и не покорился ни Барахе, ни «Валенсии» за это время, стала Лига чемпионов. Рубен дважды выступал в финале самого престижного клубного турнира Европы, когда команду тренировал Эктор Купер, но оба раза так и остался в финалистах.
Вместе с тем на счету Рубена Барахи два титула чемпиона Испании, один Кубок Испании, Кубок и Суперкубок УЕФА — все эти трофеи игрок завоевал с «Валенсией».