В профессиональном баскетболе Кальдерон дебютировал в 1999 году в составе клуба «Люцентум» Аликанте, которому помог выиграть второй дивизион чемпионата Испании в 2000 году. В следующем сезоне, выступая уже в первом дивизионе, Кальдерон был признан лучшим новичком турнира. В 2001 году Кальдерон перешёл в команду «Фуэнлабрада», в составе которой не был основным игроком, однако по итогам сезона был признан самым перспективным баскетболистом чемпионата. Три сезона, с 2002 по 2005 годы, Кальдерон выступал за один из сильнейших баскетбольных клубов Испании, «ТАУ Керамику». В сезоне 2003/2004 Хосе помог ТАУ выиграть кубок Испании, а в 2005 году вывел команду в финал четырёх Евролиги, где ТАУ Керамика проиграла в финале «Маккаби» из Тель-Авива.
3 августа 2005 года Кальдерон подписал контракт с клубом НБА «Торонто Рэпторс». В чемпионате Испании он зарекомендовал себя как отличный разыгрывающий и специалист по дальним броскам, однако в дебютном сезоне проявить в должной мере ни одну из своих сильных сторон не сумел и в итоге не стал основным защитником команды.
В сезоне 2006/2007 «Рэпторс» пригласили перспективного разыгрывающего Ти Джея Форда из «Милуоки Бакс», Кальдерон стал его сменщиком. Хотя испанец стал проводить меньше времени на площадке, ему удалось улучшить свою результативность. В начале сезона 2007/2008 Форд получил травму, позволившую Кальдерону наконец раскрыться. Когда Форд вернулся в строй к последней трети сезона, место разыгрывающего защитника застолбил за собой испанец, по итогам сезона занявший пятое место в лиге по среднему количеству передач за игру и десятое место по проценту попаданий из-за трёхочковой линии.
В межсезонье 2008 года Форда обменяли на Джермейна О'Нила из «Индиана Пэйсерс», и Кальдерон окончательно стал основным игроком Торонто, одним из лидеров команды. 9 июля 2008 года он подписал с «Рэпторс» новый контракт. В сезоне 2008/09 Кальдерон установил рекорд НБА проценту по реализации штрафных бросков в сезоне, он удачно исполнил 151 из 154 штрафных (98.1 %).
В 1998 году Кальдерон в составе сборной Испании стал чемпионом Европы среди юниоров, а в стал бронзовым призёром чемпионата Европы среди юношей до 20 лет. На чемпионате мира 2002 года, проходившем в Индианаполисе, Кальдерон принял участие во всех шести матчах испанской сборной, за весь турнир набрал 17 очков, сделал по 4 подбора и передачи. В 2006 году он стал чемпионом мира, набирал на турнире в среднем 7,2 очков за игру и делал 3,2 передачи. Кальдерон также выступал за сборную на Олимпийских играх 2008 года, где Испания выиграла серебряные медали, и на победном для испанской сборной чемпионате Европы 2011 года.