Часто рассматривается как один из наиболее «прогрессивных» членов Коллегии кардиналов. Он получил широкую известность благодаря своим всесторонним и непредвзятым работам, популярных в одних кругах и пользующихся дурной славой — в других.
Мартини вступил в иезуитский орден в 1944, был рукоположён во священники 13 июля 1952 архиепископом Турина кардиналом Маурильо Фоссати. В 1958 получил учёную степень доктора богословия (диссертация по фундаментальной теологии) в Папском Григорианском университете. В 1962 стал профессором текстовой критики в Папском Библейском институте, специализированном учреждении Григорианского университета. Ректором этого института Мартини был назначен в 1969. 18 июля 1978, при поддержке папы римского Павла VI, был избран великим ректором (лат. rector magnificus) Папского Григорианского университета. В течение этих лет он редактировал множество академических работ. Был единственным католиком в Экуменическом Комитете по подготовке греческого издания Нового Завета.
29 декабря 1979 папа римский Иоанн Павел II назначил Мартини архиепископом Милана, пост он принял после рукоположения в епископы, которое осуществил лично понтифик 6 января 1980 в Ватикане. Таким образом его первое епархиальное назначение сразу было в один из самых больших и видных диоцезов. Возведён в сан кардинала на консистории 2 февраля 1983. Кардинал-священник с титулом церкви церкви Святой Цецилии в Трастевере (район Рима на западном берегу реки Тибр, к югу от Ватикана). В 1987—1993 Мартини был председателем Совета Конференций европейских католических епископов.
В 2002 кардиналу Мартини исполнилось 75 лет, возраст принудительной отставки в Церкви. Его преемником на посту архиепископа Милана стал кардинал Диониджи Теттаманци. Во время Папского Конклава 2005 Мартини было 78 лет, и, следовательно, он имел право голосовать за нового понтифика. В течение многих лет прогрессивные католики лелеяли надежду, что именно кардинал Мартини когда-нибудь может быть избран папой. Однако после смерти Иоанна Павла II, большинство специалистов сошлись во мнении, что его избрание маловероятно, принимая во внимание его либеральную репутацию и тот факт, что он страдает от болезни Паркинсона. Тем не менее, если верить газете La Stampa, Мартини в ходе первого голосования на Конклаве получил большее количество голосов, чем кардинал Йозеф Ратцингер, будущий папа римский Бенедикт XVI (40 против 38). Правда есть и другие описания Конклава: например, анонимный кардинальский дневник сообщает, что Мартини никогда не набирал более дюжины голосов, в отличие от другого кардинала-иезуита, Хорхе Марио Бергольо из Буэнос-Айреса, и именно поэтому быстро отозвал свою кандидатуру.
В связи с тем, что кардинал Мартини на два месяца старше Бенедикта XVI, а уже на протяжении столетий умершему понтифику не наследовал более пожилой кардинал, шансов у бывшего миланского архиепископа стать предстоятелем Католической церкви, как считается, больше нет. 15 февраля 2007 кардиналу Мартини исполнилось 80 лет, и он потерял право участвовать в Конклаве.
В апреле 2006, в ответ на вопрос журналиста, Мартини заявил, что в некоторых случаях использование презервативов среди женатых пар, где один из супругов имеет ВИЧ/СПИД, чтобы предотвратить его передачу партнёру, могло бы быть «меньшим злом». Однако он быстро оговорился, что одно дело потворствовать этому «меньшему злу» в таких случаях, и совсем другое для церкви — содействовать использованию презервативов. Официальная доктрина Католической церкви гласит, что с ВИЧ нужно бороться воздержанием, и Церковь выступает против использования презервативов в любой ситуации.
Через несколько дней официальный Ватикан сообщил, что кардинал Мартини поторопился, и позиция Церкви в вопросе использования презервативов неизменна.
Кардинал Мартини, наряду с кардиналами Даннеелсом, Леманном и другими, стоит в негласной оппозиции нынешнему папе Бенедикту XVI, не разделяющему их либеральные взгляды.
Карло Мария Мартини — лауреат премии принца Астурийского за достижения в области социальных наук (2000), почётный член Папской академии наук (2000).