В 1991 году награждён высшей наградой США — Золотой медалью Конгресса.
Родился в семье иммигрантов с Ямайки. Мать — портниха Мод Маккой (Maud McKoy), и отец — продавец одежды Лютер Пауэлл (Luther Powell), познакомились в Нью-Йорке, хотя и имели дальнее родство, как и многие ямайские чернокожие. Поскольку на Ямайке жили потомки европейцев, африканцев и индейцев, то в жилах Колина Пауэлла течет многонациональная кровь: африканская, английская, шотландская, ирландская, еврейская и индейская. Когда мальчику было 4 года, семья переехала в Южный Бронкс.
Колин хорошо запомнил то время, когда Америка вступила во вторую мировую войну, и участвовала в войне в Корее, что не могло не отразиться на его интересах: он любил представлять, как командует легионами солдат, на практике — оловянными солдатиками, и руководил битвами, сидя на ковре в гостиной. С музыкой маленький Колин тоже не особо справлялся: занятия фортепиано и флейтой не привели к желаемым родителями результатам, и поэтому он их забросил.
В середине 50-х закончил среднюю школу «Моррис хай скул» (Morris High School). Послушав своих родителей и следуя примеру старшей сестры, подал заявления сразу в два высших учебных заведения: Нью-Йоркский колледж и Нью-Йоркский университет. Приняли его в оба, свой выбор он сделал исходя из того, что обучение колледже стоило значительно дешевле. Учился в Сити-колледже в Нью-Йорке, где получил степень бакалавра геологии. Обучаясь в колледже, Колин получил возможность участвовать в спонсорской программе, по которой было возможно получить небольшую стипендию, обучаясь военному делу. Это решение станет судьбоносным для его дальнейшей карьеры.
Во время учебы в колледже он подрабатывал в магазине детских игрушек Джека Сиксера, и именно тогда научился разговаривать на идише.
Тем временем семья Пауэлл переехала в свой дом в районе Куинз, купив его на деньги, выигранные Лютером в лотерею. В колледже Колин добивался небывалых успехов, он определенно нашел то, чем бы хотел заниматься всю свою жизнь. За первые два года учебы он стал командиром батальона, инструктором по строевой подготовке, приводил к присяге новеньких, а весной 1957 года занял на соревнованиях первое место.
Армейскую карьеру Колин Пауэлл начал в возрасте 21 года в Форт-Беннинге, где первые недели был вводный курс, который он закончил в первой десятке из класса. А затем два месяца он проходил программу подготовки в Школе рейнджеров, включающую в себя испытания на физическую выносливость и курс выживания в болотах Флориды, «соседствуя» с аллигаторами и змеями. После Школы рейнджеров Колин записался в воздушно-десантную подготовку, также преуспев и там. Первое назначение Колина Пауэлла было в бронетанковую дивизию в Западную Германию, в городке Гельнхаузен, расположенном в долине реки Кинзиг, к востоку от Франкфурта. Первая миссия под его командованием заключалась в охране 280-миллиметрового орудия, стреляющего ядерными снарядами. В том же году он получил новое звание — первого лейтенанта. После двухгодичной службы в Германии Колина Пауэлла направили на службу в Форт-Девенс (Массачусетс), а к лету 1961 года он мог завершить службу в армии, так как трехгодичный контракт уже закончился, но эта мысль даже не посещала его. В этом же году Колин познакомился со своей будущей женой, Альмой Джонсон, сходив за компанию с другом на двойное свидание вслепую.
В августе 1962 года поступил приказ о направлении Колина Пауэлла на новое место службы: Южный Вьетнам. Стремление к заветной цели Колина, подтолкнуло его на важный шаг в его гражданской жизни — это жениться на своей возлюбленной Альме до отъезда на службу. Ознакомившись с обстановкой во Вьетнаме, Колину Пауэллу было приказано присоединиться к Армии Республики Вьетнам (АРВ), где он был назначен советником во 2-й батальон 3-го пехотного полка 1-й дивизии. Во время первого назначения в юго-восточную Азию в семье Пауэлл родился мальчик, которого назвали Майклом. А через несколько лет у Колина и Альмы родилась первая дочь — Линда. После пятилетнего пребывания дома в Соединенных Штатах поступил приказ, предписывающий Колину убыть во Вьетнам, и 21 июля 1968 года Пауэлл снова оказался на пути в Азию.
После войны учился в университете Джорджа Вашингтона, где получил степень магистра делового управления (MBA). В возрасте тридцати двух лет Колин Пауэлл со своей семьей переехал в Вашингтон (Округ Колумбии), где они купили в ипотеку свой собственный дом, а сам Колин начал учебу в Университете. Обучение в университете было ему в радость, если не считать предмет под названием компьютерная логика, единственная дисциплина, за которую по окончании курса он получил отметку «B». Тем временем на свет появилась вторая дочь супружеской четы Пауэлл, именуемая Анна-Мария, а Колин получил звание подполковника.
Получив диплом после двухгодичного обучения в аспирантуре, Колин Пауэлл направился с ним в Пентагон, где получил предписание в аппарат помощника заместителя начальника штаба сухопутных войск. Затем его перевели в отдел, где он помогал генералу Депуи создавать армию будущего. Следующим шагом в развитии карьеры Колин Пауэлла была годичная стажировка в Белом доме, конкурсный отбор которой он на удивление самому себе прошел. Важным результатом стажировки стала возможность присутствовать на встречах с политической элитой Соединенных Штатов и других государств. Стажеры имели возможность познакомиться с министром здравоохранения, образования и социальных служб, с губернатором штата Джорджия, будущим президентом США, Джимми Картером, президентом Никсоном, с лидерами Японии, Советского Союза, Китая, Польши, Болгарии и Западной Германии, с ведущими журналистами Америки. Под конец стажировки Пауэлла определили в Корею, где целью его службы было поддержание мира, установленное 27 июля 1953 года между ООН и Северной Кореей, и помощь южнокорейским союзникам в случае нарушения этого мира.
Пауэлл участвовал во Вьетнамской войне. В 1970—1980-х годах работал в министерстве обороны, и, продвигаясь по ступеням военной иерархии, к 1983 стал помощником министра обороны К. Уайнбергера. В 1986 был назначен заместителем директора Совета по национальной безопасности, а в ноябре 1987 президент Рональд Рейган назначил его на пост советника по национальной безопасности. После окончания президентского срока Рейгана, Пауэлл вернулся в армию и служил командующим округа в Джорджии, однако уже в августе 1989 президент Джордж Буш выдвинул его на пост председателя Объединенного комитета начальников штабов. При Пауэлле была успешно проведена военная операция в Панаме, а также прошла победоносная война в Персидском заливе 1991 (операция «Буря в пустыне»).
Пауэлл сыграл решающую роль на переговорах с военной хунтой на Гаити, благодаря ему власть в стране удалось вернуть законно избранному президенту Жану Бертрану Аристиду.
Вопреки ожиданиям, Пауэлл объявил в ноябре 1995 года, что не будет участвовать в президентской кампании 1996 года. Тогда же он впервые заявил о своей принадлежности к Республиканской партии. Тем не менее, в 1997 году Пауэлл поддержал в ряде вопросов президента Клинтона, в частности, призвал сенат ратифицировать многосторонний договор о запрещении химического оружия.
В 2001 году, после победы на президентских выбора Джорджа Уокера Буша, Пауэлл занял в новом кабинете пост государственного секретаря (главы внешнеполитического ведомства). Известно что он, в частности, настоял, чтобы операция против Ирака не начиналась без рассмотрения вопроса в ООН, такая позиция, по некоторым свдениям, едва не стоила ему должности.
В 2008 году поддержал кандидатуру Барака Обамы на пост нового президента США[уточнить].
Медали «За выдающиеся заслуги на военной службе», «За выдающиеся заслуги», «За отличную службу» (медаль Министерства обороны), «За отличную службу в Вооруженных силах», «Бронзовая звезда», медалью «Бронзового сердца», двумя «Президентскими медалями Свободы» и «Золотой медалью Конгресса», кавалер британского Ордена Бани.