Родителями Александра Гротендика (Шурика — в семье были приняты уменьшительные имена) были анархисты. Отец — беженец из России Александр (Саша) Шапиро (1889, Новозыбков — 1942, Освенцим), активный участник революции 1905 года, был приговорён к смертной казни, заменённой ввиду несовершеннолетия лишением свободы. Неоднократно пытался бежать, во время одного такого побега был ранен в руку, которую пришлось ампутировать. В Германию он прибыл с подложными документами на имя Александра Танарова, под какой фамилией его часто упоминают биографы Гротендика; пользовался также конспиративным именем Саша Пётр. Считая недопустимым для анархиста работать на эксплуататора, был уличным фотографом. Мать — Иоганна (Ханка) Гротендик (1900—1957) родилась в бюргерской семье в Гамбурге, но восприняла идеи анархизма, уехала от родителей в Берлин и писала статьи в левые газеты об авангардном искусстве и политике. Будучи противниками буржуазной семьи, они брак не регистрировали, поэтому Шурик формально считался сыном матери-одиночки и носил её фамилию, что помогло ему выжить при фашистском режиме.
Когда в 1933 году Гитлер встал у власти, отцу Гротендика как еврею пришлось бежать во Францию. В конце года за ним последовала и мать. Ребёнка отдали на воспитание в семью Гейдорнов, живших в предместье Гамбурга. Родители принимали активное участие в Гражданской войне в Испании на стороне республиканцев. После победы Франко они возвратились во Францию. К этому времени террор в Германии усиливался. Стали не только выявлять евреев по документам, но также и интересоваться теми, кто не соответствовал канонам «арийской расы», поэтому маленькому Шурику оставаться было опасно, причём его приёмные родители и сами имели четверых детей. Они списались с родителями Шурика и отправили его к ним, незадолго до начала войны.
В 1940 году родители Гротендика и он сам были интернированы. Отца отправили в лагерь смерти Освенцим, где он и погиб. Мать и сын были заключены в лагерь для интернированных в Риекро? (Rieucros). Порядки в этом лагере были довольно терпимыми, и Шурику было разрешено посещать лицей в близлежащем городке. В лицее ему часто приходилось драться с учениками, которые считали его оккупантом, не зная, что его родители были антифашистами. Однажды он даже сбежал из лагеря, решив добраться до Гитлера и убить его, но к счастью это ничем плохим для него не кончилось. Через два года мать и сын разъединились — Ханку отправили в другой лагерь, а Шурик попал в детский дом в городе Шамбо-на-Линьоне (Chambon-sur-Lignon), возглавляемый благотворительной организацией «Швейцарская помощь», которая спасала детей евреев, антифашистов и беженцев. Чтобы закончить среднее образование, он поступил в Севеннский колледж (Coll?ge C?venol). Уже тогда ему стало ясно, что он имеет большие математические способности.
Когда война закончилась, мать нашла сына, и они стали жить в Монпелье, где Александр поступил в местный университет. Ему приходилось подрабатывать на сборе винограда, а мать работала домработницей у окрестных хозяев. Он уже тогда хотел стать математиком, но преподаватель анализа Сула сказал ему, что математика уже практически завершённая наука, а последние великие открытия в ней сделал Анри Лебег. Произошла любопытная вещь — содержание работ Лебега преподаватель не знал или забыл, книг никаких не было, но Гротендик совершенно независимо заинтересовался точным определением длины, площади и объёма, считая определения в учебниках недостаточно строгими, и самостоятельно пришёл к основным понятиям теории меры и интеграла Лебега.
В 1948 после окончания университета Гротендик прибыл в Париж для продолжения образования. Уже упомянутый Сула рекомендовал Гротендику обратиться к своему учителю, знаменитому математику Картану. Гротендик не знал, что Картанов-математиков было двое — Эли Картан, которому было уже под 80, и его сын Анри, активно работающий математик, который тогда вёл в Высшей Нормальной школе свой знаменитый семинар, поэтому он отправился на семинар Анри. Когда Гротендика спросили, чем он занимался в Монпелье, он рассказал о своих работах по теории меры. Увидев, что он совершил открытие, хотя и сделанное ранее Лебегом, причём совершенно самостоятельно, ему рекомендовали продолжать научную деятельность. На семинаре Картана Гротендику приходилось трудно как из-за пробелов в образовании, так и из-за плохого французского, особенно среди тесного кружка постоянных слушателей. Вот почему по совету Картана и Дьёдонне он переезжает в 1949 году в Нанси, город, который в то время был одним из главных центров математической мысли во Франции. «Николя Бурбаки» (псевдоним группы математиков) был «профессором из Нанкаго» то есть "Нанси и Чикаго". В это время в Нанси из «Бурбаков» работали Дьёдонне, Лоран Шварц, Жан Дельсарт и Роже Годеман (). Под руководством Дьёдонне и Шварца, Гротендик занимается исследованиями в области функционального анализа. Шварц дал ему 6 возможных проблем в качестве тем для диссертации. К нужному сроку все они были полностью решены Гротендиком. Наиболее важная из них и стала его диссертацией, которая вышла позднее в виде монографии 1955 года и переиздавалась несколько раз. Тем не менее, у Гротендика были трудности с получением работы — он был лицом без гражданства, а при получении гражданства он подлежал бы призыву в армию, чего он не желал по причине отрицательного отношения его как пацифиста к воинской обязанности. В конце концов он становится сотрудником знаменитого Национального центра научных исследований (Centre National de la Recherche Scientifique (CNRS)), но эта работа больше походила на временную. Он даже одно время думал стать плотником, чтобы зарабатывать на жизнь, поддерживая свою больную мать. Но в 1953 он получает приглашение работать в университете Сан-Паулу в Бразилии. В 1955 он работает в Канзасском университете. В это время он теряет интерес к функциональному анализу и начинает заниматься алгеброй, особенно гомологической алгеброй и алгебраической геометрией. В 1956 он возвратился в Париж, где стал постоянным сотрудником CNRS и членом «Бурбаки». Следует отметить, что работа Гротендика как члена группы «Бурбаки» была существенно менее активной по сравнению с другими её членами, и отношение Гротендика к деятельности группы было далеко от однозначно поддерживающего.
Большое влияние на Гротендика оказала переписка с Жаном-Пьером Серром по вопросам теории пучков, введённых ещё Ж. Лере. Серр также познакомил его с так называемыми «гипотезами Вейля», которые указывали на связь дискретного мира алгебраических многообразий с непрерывным миром топологии. Также Гротендик занялся кругом вопросов, связанных с теоремой Римана-Роха и доказал глубокое обобщение этой теоремы при помощи созданной им т. н. алгебраической K-теории. 1958 год стал, как утверждал он сам, наиболее плодотворным в его жизни. Он читает приглашённый доклад на XIII Математическом конгрессе в Эдинбурге, где систематически излагает понятия теории схем, которая стала основой современной алгебраической геометрии. В том же 1958 был основан знаменитый Институт высших научных исследований (Institut des Hautes ?tudes Scientifiques — IH?S), где Гротендик стал работать. Там он (в сотрудничестве с Дьёдонне) стал выпускать знаменитую работу — «Элементы алгебраической геометрии» (?l?ments de G?om?trie Alg?brique — ?GA) — книгу, которую по-библейски стали называть «Евангелием от Гротендика» и которая оказала фундаментальное влияние на алгебраическую геометрию. Не менее важным был семинар по алгебрической геометрии, труды которого имели огромное значение.
Систематических политических взглядов, например анархических, социалистических или коммунистических Гротендик не выказывал, но, будучи человеком с обостренной совестью и воспринимая мир в черно-белых тонах, он был известен своей активной жизненной позицией. В знак протеста против подавления инакомыслия в СССР (Процесс Синявского-Даниэля) Гротендик отказался ехать в Москву на XV Математический конгресс в 1966, где ему должны были вручить Филдсовскую премию, но поехал во Вьетнам в разгар войны, где читал лекции об этальной топологии студентам эвакуированного в джунгли Ханойского университета. Развязка наступила в конце 1960-х. Во время «Парижской весны 1968» Гротендик заметил, что его коллеги-математики в основном поддерживают не студентов, а «буржуазное» правительство, что его возмутило. В 1969 он узнаёт, что Институт высших научных исследований (IH?S), где он работал много лет, частично финансируется военными, и уходит из него. Далее он обращает внимание на то, что математики тоже делятся на «аристократию» и «крепостных», а также что происходит своеобразная эксплуатация — когда влиятельный ученый получает работу молодого математика, особенно не его ученика, он отклоняет её под благовидным предлогом («это не актуально», «это тупиковый путь» и т.д), а сам пользуется идеями отклонённой работы в своём творчестве. Ещё чаще происходит просто игнорирование трудов молодых математиков. Также он указал на существование научных «мафий». Гротендик удаляется в Монпелье, где он когда-то самостоятельно открыл теорию меры, бросает математику. Частично он ещё занимается биологией, экологией и даже эзотерикой. В 1977 его привлекают к суду за предоставление жилья незаконному иммигранту. Лишь некоторые из его бывших коллег и друзей поддержали его, большинство осталось равнодушными, а некоторые даже выступили против него. В 1988 ему присуждают (вместе с его учеником Пьером Делинем) премию Крафорда (Crafoord), от которой он отказывается.
По состоянию на 2012 год живёт в районе Пиренеев и почти не подаёт о себе вестей.
Объём работ А.Гротендика колоссален. В этом с ним может сравниться разве что Эйлер. Но общую характеристику трудов дал он сам в книге «Урожаи и посевы», обозначив следующие ключевые темы:
Здесь под «йогой» Гротендик подразумевает не саму теорию, а её основы, благодаря которым теорию можно дальше развивать.
Первая из этих тем принадлежит функциональному анализу, остальные — в основном c алгебре и алгебраической геометрии, 12-я даже связана с элементарной геометрией. Сам Гротендик наиболее важной считает тему мотивов. Наиболее разработанными являются теория схем и этальных и l-адических когомологий. За пределами алгебры огромное значение для топологии имело создание на основе работ Гротендика топологической K-теории, в основном в работах Майкла Атьи, а также Фридриха Хирцебруха, Рауля Ботта и Джона Адамса.
Гротендик считает, что каждый шаг в доказательстве теорем должен быть совершенно понятен. В отличие от многих математиков, считающих каждую теорему с простым доказательством тривиальной и маловажной, он так не считает. Всякая теорема у него распадается на ряд простейших лемм. С одной стороны это облегчает чтение его трудов, с другой запоминание многочисленных новых понятий иногда становится тяжким (вообще, несмотря на то, что Гротендик доказал много фундаментальнейших утверждений, например, обобщенную теорему Римана-Роха, его вклад в математику в основном заключается во введении общих фундаментальных понятий — в этом он, пожалуй, самый яркий «бурбакист»). Из-за этого многие математики «задачной школы», которые считают, что цель математики — решение задач, по возможности с минимумом введения новых понятий, его (классического «создателя теорий») недолюбливают. Кроме того из-за точки зрения Гротендика на то, что доказательство должно заключаться в разбиении на ряд очевидных шагов он, например, не признал доказательство знаменитой «проблемы четырёх красок», которая была доказана при помощи вычислений на компьютере, причём его смущала не возможность ошибки программы или сбоя компьютера, сколько именно невозможность обозреть это доказательство для человека.