Первые матчи за «Валлетту» Гилберт провёл ещё в 1990 году, когда ему было всего 16 лет. С тех пор, вот уже 19 сезонов, он защищает цвета своего родного клуба, всего лишь раз покинув его. В 2001 году он решил попытать счастья в итальянском клубе «Пиза», отправившись туда в аренду, но там дела не заладились и он вернулся обратно в «Валлетту». Перед началом сезона 2007/08 у Гилберта была возможность перейти в шведский клуб «Энчёпинг», но решил ничего не менять и завершить свою карьеру в родной команде, с которой в этом же сезоне, спустя 7 лет, завоевал чемпионский титул.
В 1993 году Гилберт дебютирует в национальной команде. С тех пор, за 16 лет, проведённых в сборной Мальты он сыграл 116 матчей и по этому показателю занимает второе место за всю историю. Причём, в ближайшее время, он может стать лидером, обойдя Дейвида Каработта, у которого 121 матч, но Дейвид уже завершил игровую карьеру.