Футбольная карьера Гари началась в его родном городе Мотеруэлле, где он выступал за одноимённый футбольный клуб. Он провёл там несколько отличных сезонов, пока в 1985 году его отличное выступление в полуфинале Кубка Шотландии против «Селтика» не привлекло внимание менеджера «Лестер Сити» Гордона Милна. Вскоре трансфер Макаллистера и его партнёра по клубу Элли Моухлена был выкуплен англичанами за общую сумму 250 тысяч фунтов.
1990 год стал переломным для карьеры Гари Макаллистера — он не только сменил «Лестер» на более серьёзный «Лидс», но и стал, наконец, регулярно вызываться в сборную Шотландии. Гари перешёл в «Лидс» сразу же после того, как эта команда завоевала путёвку в Первый дивизион. Первый сезон Макаллистера на «Элланд Роуд» можно занести команде в актив — «Лидс» занял итоговое четвёртое место и дошёл до полуфинала Кубка Лиги — весьма неплохой результат для команды, которая ещё год назад играла во Втором Дивизионе.
Тогда же сформировалась отличная связка полузащитников «Лидса» — Гари Макаллистер и Гордон Страхан, которой помогали относительно молодые Дэвид Бэтти и Гари Спид. Пожалуй, именно центральная линия, ставшая настоящим «сплавом молодости и опыта», сыграла решающую роль в успехе, которого «Лидс» добился год спустя. В сезоне 1991—1992 годов «Юнайтед» стал чемпионом Англии.
Многие игроки тогдашнего «Лидса» выступали за сборные своих стран. Это касается обороны и атаки команды и, в равной степени с ними, полузащиты. Страхан и Макаллистер представляли сборную Шотландии, Бэтти — Англии, а Спид — Уэльса. Самой сильной чертой четвёрки полузащитников была их взаимозаменяемость — каждый из них мог сыграть и справа и слева, и в центре. Хотя обычно Бэтти играл чуть позади остальных, в то время как Макаллистер, Страхан и Спид занимались созиданием. Макаллистер славился своим умением нанести точнейший удар, и в «Лидсе» его талант нашёл новое применение. Гари стал главным распасовщиком команды. Лучший бомбардир «Лидса» тех времён Ли Чепмэн большую часть своих голов забил с передач Макаллистера и Страхана.
Победа в чемпионате в 1992 году стала высшей точкой «Лидса», которой он безуспешно пытался достичь в последующие годы, проведённые Макаллистером в клубе. В сезоне 1992—1993 годов «Лидс» занял лишь 17-е место, что стало одним из худших выступлений для действующих чемпионов английского чемпионата. В следующие два года команда Макаллистера дважды становилась пятой. С 1992 по 1996 год Макаллистер был капитаном «Лидса» и завоевал особую любовь болельщиков команды за своё отношение к игре и феноменальные удары с дальних дистанций. Последний сезон Гари в «Лидсе» был провальным — клуб занял лишь 16 место в Премьер-Лиге, зато ознаменовался для Макаллистера тем, что впервые в карьере он в ранге капитана вывел свою команду на поле стадиона «Уэмбли». Произошло это в финале Кубка Лиги. Однако победу в том матче праздновала «Астон Вилла», забившая три безответных мяча.
С 1996 по 2000 год Гари выступал за «Ковентри», которым сначала руководил Рон Аткинсон, а затем бывший партнёр Макаллистера по «Лидсу» Гордон Страхан. На это время приходится и окончание карьеры Гари в сборной, за которую он в последний раз сыграл в 1998 году. Ему было уже 33 года, а потому руководство национальной команды сочло, что этот игрок помочь им уже ничем не сможет.
Большая часть международной карьеры Гари прошла за время его выступлений за «Лидс». Первый вызов он получил в 1990 году и тогда же принял участие в чемпионате мира, состоявшемся в Италии. Два года спустя он сыграл в матче против сборной СНГ на чемпионате Европы, забив в той игре гол с пенальти. На чемпионате Европы 1996 года, который состоялся в Англии, он был капитаном своей команды. Но болельщикам больше всего запомнился тем, что в матче шотландцев против их принципиальнейших соперников — англичан одиннадцатиметровый удар в исполнении Макаллистера был взят вратарём хозяев Дэвидом Симэном.
Всего же за 8 лет выступлений за сборную он принял участие в 57 официальных матчах и удостоился права быть включенным в Зал Футбольной Славы Шотландии.
В 2000 году тридцатипятилетний Гари Макаллистер потряс футбольную общественность, перейдя из «Ковентри» в «Ливерпуль». Большая часть болельщиков недоумевала, потому что покупка Жераром Улье футболиста, который уже давно перешагнул рубеж в тридцать лет, казалась совершенно нелогичной и ненужной. Макаллистер отыграл за «Ливерпуль» лишь два сезона, но сумел стать за это недолгое время кумиром фанов команды и помог «Красным» пополнить коллекцию трофеев на «Энфилде». Гари не только принял участие в успешном походе «Ливерпуля» за Кубком Лиги, Кубком Англии и Кубком УЕФА, но и оказал влияние на целое поколение мерсисайдских игроков.
Гари, известный своим умением исполнять стандарты, регулярно демонстрировал своё мастерство, отметившись, в частности, потрясающим ударом с дальней дистанции в матче против принципиальных соперников «Ливерпуля» из «Эвертона», который сделал его одним персонажей энфилдского фольклора, а также голом, который принёс его команде победу в Кубке УЕФА. Основное время финального матча, проходившего в Дортмунде, завершилось вничью 4—4, а в дополнительное время судьбу трофея решил «золотой гол». Макаллистер ударом со штрафного отправил мяч в дальний угол, но защитник испанского «Алавеса» срезал снаряд в собственные ворота, и в результате, гол был записан именно на его имя.
Многие болельщики «Ливерпуля» до сих пор сожалеют о том, что Макаллистер пришёл в их клуб на десять лет «позже, чем должен был».
После ухода из «Ливерпуля» Макаллистер в течение одного сезона был играющим тренером «Ковентри», но затем был вынужден покинуть этот пост по семейным обстоятельствам, когда у его жены Дениз обнаружили рак молочной железы.
У Гари Макаллистера двое детей от брака с Дениз Макаллистер, в марте 2006 года скончавшейся от рака.
В 2002 году за свои футбольные достижения он получил звание члена Ордена Британской Империи, Гари Макаллистеру на тот момент было 37 лет, и он всё ещё был действующим футболистом.