Настоящее имя музыканта — Кэри Белл Харрингтон. Он родился в городе Мэйсон, штат Миссисипи. Ещё ребенком его привлекла музыка Луиса Джордена. Белл хотел иметь саксофон чтобы быть похожим на своего кумира, однако бедная семья не могла себе этого позволить, поэтому он вынужден был ограничиться «миссисипским саксофоном». Вскоре его вниманием завладели великие мастера блюзовой гармоники того времени: DeFord Bailey, Big Walter Horton, Мэрион «Литтл Уолтер» Джейкобс и оба Sonny Boy Williamson (I and II). Белл самостоятельно научился играть и уже к восьми годам вполне успешно обходился с инструментом. Когда ему исполнилось 13 лет, он начал играть в блюзовом оркестре своего крестного — пианиста Лави Ли.
В 1956 году Лави Ли убедил Белла поехать вместе с ним в Чикаго, где процветало собственное музыкальное направление блюза. Вскоре после переезда в Чикаго Белл встретил в клубе «Занзибар» Литтл Уолтера и стал его учеником. Чтобы повысить свои шансы найти работу музыканта Белл научился играть на бас-гитаре у Хаунд Дог Тэйлора. Беллу посчастливилось брать уроки игры на гармонике у Сонни Боя Уильямсона II и Биг Уолтера Хортона. Хортон также предложил Беллу играть в своей группе. Белл многое узнал о работе великих блюзменов и был готов начать свою собственную музыкальную карьеру.
Несмотря на покровительство многих мастеров игры на губной гармонике, его приезд в Чикаго пришёлся на не очень благоприятный период: спрос на гармошечников сокращался, поскольку группы искали гитаристов. Чтобы сводить концы с концами Белл продолжал играть в нескольких группах на бас-гитаре. В качестве басиста он играл у Биг Уолтера и продолжал брать у него уроки игры на своём любимом инструменте — миссисипском саксофоне. Позже он оставил бас и выходил на сцену только с губной гармоникой. 3 октября 1969 года Кэри Белл выступил в Королевском Альберт-холле в Лондоне.
В 1969 году чикагская компания звукозаписи Delmark Records выпустила первый диск Белла Carey Bell’s Blues Harp. Позже он играл с Мадди Уотерсом и Вилли Диксоном в проекте «Все звёзды чикагского блюза». В 1972 году Белл воссоединился с Биг Уолтером и записал альбом Big Walter Horton with Carey Bell на студии Alligator Records. Годом позже он записал сольный альбом у ABC Bluesway. Он продолжал играть с Диксоном и в 1978 году был представлен на номинированном на Грэмми альбоме Living Chicago Blues студии Alligator).
В течение 1980-х годов Белл продолжал записываться, но своё основное время посвящал концертным выступлениям. В 1990-х Белл совместно с коллегами по музыкальному цеху — Джуниором Уэллсом, Джеймсом Коттоном и Билли Бранчем записывает знаменитый альбом Harp Attack!. Современное представление блюзовой классики, этот альбом стал одним из самых успешных для студии Alligator Records.
Несмотря на многие годы, проведённые в сотрудничестве со студией Alligator, первый полноформатный сольный альбом Белла, Deep Down, увидел свет только в 1995 году. На этом диске в полной мере представлена индивидуальная манера его игры. Этот альбом принёс Беллу заслуженное признание среди людей, далёких от блюза, поклонники которого давно зачислили его в разряд легенд.
В 1997 году Белл выпустил следующий альбом — Good Luck Man («Счастливчик»), который также был высоко оценён. В 2004 году был выпущен Second Nature («Вторая натура»), который Белл записал в дуэте со своим сыном Ларри. Альбом примечателен тем, что был записан «на одном дыхании», без дублей.
В 1998 году Белл получил ежегодную награду Blues Music Award как лучший мужской исполнитель традиционной музыки.
В 2007 году компания Delmark records выпустила студийный альбом, на котором Беллу аккомпанируют его сын Ларри, а также Скотт Кейбл, Кенни Смит, Боб Стронгер и Джо Томас.
Кэри Белл умер от сердечной недостаточности 6 мая 2007 года в Чикаго.