Дебютировал в октябре 1993 года. Кальзаге почти все свои бои провел в Великобритании.
В октябре 1997 года в бою за вакантный титул WBO в суперсреднем весе победил известного бойца Криса Юбенка.
С 1997 по 2002 годы успешно защитил свой титул победив множество боксеров, в том числе непобежденного Марио Файта и Чарльза Брюера.
В июне 2003 года Джо Кальзаге вышел на ринг против Байрона Митчелла. Во 2-м раунде Митчелл левым крюком попал в челюсть Кальзаге. Кальзаге впервые в карьере оказался в нокдауне. Он сразу же встал. Митчелл бросился добивать валлийца. Кальзаге в контраатаке левым крюком в челюсть послал его в нокдаун. Митчелл поднялся. Теперь уже Кальзаге бросился его добивать. Валлиец провел несколько успешных ударов, после которых Митчелл зашатался и повалился на канаты. Рефери остановил бой.
В мае 2005 года выехал в Германию на бой против немца Марио Файта. Кальзаге победил нокаутом в 6-м раунде.
В марте 2006 года состоялся объединительный бой в суперсреднем весе между долгоиграющим непобежденным чемпионом мира по версии WBO Джо Кальзаге и непобежденным чемпионом мира по версии IBF Джеффом Лейси. Оба противника приняли атакующий вариант ведения боя. Более техничный Кальзаге уверенно громил противника - он безостановочно его атаковал, и в отличие от Лейси, значительная часть его ударов приходилась в цель. В 11-м раунде рефери снял с Кальзаге очко за удар после команды "брейк". В 12-м раунде Кальзаге провел спуртовую атаку. Ближе к середине раунда он попал левым крюком в голову Лейси и тот впервые оказался в нокдауне. Лейси встал на счет 4. Кальзаге бросился его добивать. Лейси был на грани нокаута. Неожиданно рефери прервал бой. Он заметил, что у Лейси развязался бинт на перчатке. Он отвел американца в угол, чтобы где ему привязали бинт. После возобновления боя Кальзаге вновь начал бомбить Лейси, но добить не смог.
В октябре 2006 года Кальзаге вышел на ринг против камерунца Сакио Бики. В середине 5-го раунда Бика низко опущенной головой столнулся с головой Кальзаге. Рефери снял с камерунца очко. Бика был недоволен штрафом. По итогам 12-ти раундом судьи единогласным решением объявили победителем Джо Кальзаге.
После этого боя Кальзаге отказался от титула IBF.
В апреле 2007 года Кальзаге встретился с Питером Манфредо. В середине 3-го раунда Кальзаге прижал Манфредо к канатам и начал спуртовую атаку. Сначала его удары достигли цель, затем значительная часть ударов пришлась по защите, а последние удары и вовсе выброшены были в холостую. Однако рефери неожиданно прекратил бой. Решение было очень спорным.
В ноябре 2007 года состоялся объединительный бой во 2-м среднем весе между долгоиграющим чемпионом мира по версии WBO Джо Кальзаге и чемпионом мира по версиям WBC и WBA Миккелом Кесслером. Более агрессивный Кальзаге победил по очкам.
В апреле 2008 года состоялся бой между Джо Кальзаге и Бернардом Хопкинсом. Джо Кальзаге впервые дрался в США. В середине 1-го раунда Хопкинс встречным правым кроссом попал в голову британца, и тот оказался в нокдауне. Кальзаге сразу же поднялся. Он не был потрясённым, поэтому Хопкинс не бросился добивать его. В близком бою судьи отдали победу раздельным решением британцу. Не стоит забывать, что Джо три раза совершил "нелегальный" удар ниже пояса, однако если после 2-х первых судья дал Хопкинсу возможность отдышаться, то третий он попросту не заметил и продолжил бой.
В ноябре 2008 года состоялся бой между Джо Кальзаге и американцем Роем Джонсом. В середине 1-го раунда Джонс встречным левым хуком пробил в голову противника. Валлиец упал на канвас. Он поднялся на счёт 5. Кальзаге не выглядел потрясённым. Валлиец весь бой шёл вперёд, выбрасывая огромное количество ударов, и превосходя оппонента в скорости. Американец ничего не мог противопоставить этому давлению. К концу боя над левым глазом Джонса образовалось рассечение. По окончании поединка все судьи одинаковым разгромным счётом 118—109 отдали победу Джо Кальзаге.