Родился в Венесуэле. Отец, убеждённый коммунист, дал ему имя в честь Владимира Ильича Ленина (двух других сыновей он назвал «Владимир» и «Ленин»). Псевдоним «Карлос» Рамирес Санчес предположительно получил в 1970 году, когда проходил подготовку в лагере террористов в Палестине. В 1964 вступил в Венесуэльскую молодежную коммунистическую организацию.
После развода родителей Рамирес Санчес остался с матерью. Они переехали в Лондон, где Рамирес Санчес поступил в Лондонскую школу экономики. Затем он недолго учился в Университете дружбы народов в Москве, где узнал о палестино-израильском конфликте. В 1970 году был отчислен из университета за подрывную деятельность, хотя видимо это было прикрытие, перед его отправкой на операцию по заданию КГБ.
В июле 1970 года Карлос поехал в Ливан, где присоединился к Народному фронту освобождения Палестины в Бейруте. Оттуда был направлен в тренировочный лагерь недалеко от Аммана, где проходил боевую подготовку. Там он и получил свое прозвище Карлос, от Бассама абу Шарифа, за свое латино-американское происхождение. Прозвище Шакал он получил от журналистов, после того как при обыске в номере отеля, в его вещах был найден роман Фредерика Форсайта «День Шакала». Во время событий Чёрного сентября в Иордании, принимал активное участие в боевых действиях против иорданских вооруженных сил, заслужив хорошую репутацию. Позже переехал обратно в Бейрут, а затем в Лондон. В 1973 году он предпринял неудачную попытку убийства еврейского бизнесмена и вице президента Сионистской Федерации Великобритании Эдварда Шифа в Лондоне. После этого совершил несколько терактов, - нападения на Банк Апоалим, три французских газеты при помощи машин со взрывчаткой, две неудачных гранатометных атаки на самолеты авиакомпании «Эль-Аль» в аэропорту Париж-Орли, а также парижский ресторан, где погибли 2 человека. В 1975 году он застрелил двух полицейских, которые пытались его задержать, и был вынужден бежать в Ливан, где принял ислам. Самым известным терактом Карлоса стало нападение на штаб-квартиру ОПЕК в Вене с захватом заложников. Карлос и шесть его соратников с сорока двумя заложниками получили самолёт, на котором вылетели в Багдад, затем в Триполи, и наконец в Алжир. В каждом городе они отпускали часть заложников. В Алжире Карлос получил политическое убежище. В дальнейшем он какое-то время жил в Адене, Венгрии и Сирии. В начале 1990-х он обосновался в Судане.
В 1994 году Судан выдал Карлоса французским властям, которые добивались его экстрадиции за совершённые в начале 1970-х убийства. В декабре 1997 года Карлос был приговорён к пожизненному заключению. Во Франции вышла его автобиографическая книга «Революционный ислам», в которой он, в частности, рассказывает о своём отношении к принятой им религии. Содержится в парижской тюрьме Санте.
В декабре 2011 года суд во Франции вынес Карлосу второй пожизненный приговор за организацию четырех взрывов на территории Франции, в результате которых 11 человек погибли, более 100 были ранены.