Службу Сципион начал в 218 г. до н. э., когда участвовал в битве при Тицине. В 216 г. в качестве военного трибуна участвовал в битве при Каннах и после поражения бежал в Канузий, где нашли прибежище 4 тысячи отступивших после поражения. В 212 году спустя 4 года Сципион стал курульным эдилом вместе с двоюродным братом Луцием, однако год спустя его отец и дядя погибли в битве с карфагенянами в Испании. Из-за этого Сципион был избран проконсулом. В 210 г. Сципион был назначен претором и покинул Рим вместе с 10 тыс. пехоты, 1000 всадниками и 30 квинкверемами. Подкрепление для Испании десантировалось в Эмпориях. Штаб разместился в Тарраконе, где стали стоять 28 тыс. пехотинцев и 3000 всадников. Первой задачей стала борьба с кельтиберами, но в то же время Сципион пытался заключить союз с другими испанскими племенами. Для повышения боевого духа он посетил своих солдат на зимних квартирах. Зимой Сципион разведал, что карфагенская армия разделилась для перехвата Испании, были также получены данные, частично с помощью местных рыбаков, о базе Новый Карфаген.
В начале 209 г. Сципион решился на внезапный штурм карфагенской базы с суши и моря. Оставив примерно 3-тысячный гарнизон под командованием Марка Силана, Сципион с 25 тысячами солдат весной выступил на юг. Друг Сципиона Гней Лелий командовал флотом из 300 судов. Цель находилась на узком полуострове, поэтому было решено возвести фортификации. На следующее утро о стены уже оперлись штурмовые лестницы, но римляне были отбиты—предположительно, отрядом, высланным командующим гарнизоном, Магоном. В ходе третьей попытки Лелий высадил в гавани моряков для помощи пехотинцам. Наконец, Магон был окружён, и Сципион дал приказ остановить резню. Захватив Новый Карфаген, Рим получил дополнительное продовольствие, серебряные рудники и гавань — плацдарм для дальнейшего продвижения на юг. Жителей города Сципион оставил свободными, 2 тысячам оружейников была обещана свобода, если они будут работать на Рим. Среди пленных нашлась одна красивая девушка. Солдаты, зная что Сципион положил на неё глаз, привели её ему, однако Сципион, узнав что девушка любит некоего испанского вождя Аллуция, познакомил её с ним. Когда в ответ к Сципиону пришли родители девушки, он передал их подарки Аллуцию. В благодарность Аллуций во главе 1400 воинов его племени присоединился к армии Сципиона. Эти события послужили сюжетом для полотен некоторых художников под названием «Великодушие Сципиона» (Батони, Бернардино Фунгаи, Беллини, делль’Абатте, Рейнольдса, Никола Пуссена, ван Дейка). Проведя реконструкцию города, Сципион возвратился в Тарракону. Лелий был выслан с рапортом в сенат.
Однако разведчики Сципиона доложили, что Новый Карфаген попытаются отбить. В 208 г. Сципион выступил на юг, застав врасплох Гасдрубала в местечке Бекула, у современной реки Гвадалкивир в Бетике. После разгрома Гасдрубала армии Сципиона перенацелились на Магона и другого Гасдрубала, сына Гискона. Во время марша на юг союзные испанские вожди Эдекон и Андобал приветствовали Сципиона как царя за победу при Бекуле. В 206 г. Сципион разбил Гасдрубала при Илипе, после чего взял Гадес (Кадиз), завершив испанскую кампанию.
Проведённые в Тарраконе преобразования армии стали одними из самых значительных . Италийский короткий меч был заменён тем, который использовали испанские племена. Такой меч был рубяще-колющим, лучше подходил для традиционной римской тактики и стал позже называться испанским (gladius hispaniensis).
Коренные изменения претерпела конница. Всадники были снабжены шлемами, латами, продолговатыми щитами, сапогами, копьями с железными наконечниками на обоих концах, дротиками и кривыми саблями. Сципион сам наблюдал за учениями и присутствовал при упражнениях и новых манёврах.
Война Карфагена с Римом завершилась — началась война Рима с Карфагеном. Из-за того, что лучшие генералы или пали на полях сражений, или же были, как Квинт Фабий и Квинт Фульвий, слишком стары, а подходящие кандидаты Гай Нерон и Марк Ливий были слишком непопулярными аристократами. Вернувшегося из Испании Сципиона не поддержал сенат, обвинив его в сомнительном понимании солдатской дисциплины, приведя в пример злоупотребления одного из его командиров Гая Племиния в Локрах. Однако вскоре сенат из-за безотлагательности военных действий был вынужден утвердить кандидатуру Сципиона, поддерживаемого народом, поручив ему предварительную подготовку в Сицилии.
Весной 204 г. Сципион отбыл к берегам Африки с двумя легионами из ветеранов (около 30 тыс. чел.), с 40 военными и 400 транспортными судами и, не встретив ни малейшего сопротивления, благополучно высадился на Красивом мысе близ Утики. Узнав о высадке Сципиона, Массинисса тотчас явился в лагерь полководца, против которого еще незадолго перед тем сражался в Испании; но этот безземельный царь сначала не принёс римлянам ничего кроме личной храбрости, а ливийцы, хотя и очень тяготились рекрутскими наборами и налогами, знали по горькому опыту, как следует себя вести в подобных случаях, и потому не спешили открыто принять сторону римлян. Сципион после нескольких удачных конных стычек уже был в состоянии осаждать Утику, но по прибытию прокарфагенского нумидийского царя Сифакса с 50 тыс. пехоты и 10 тыс. конницы пришлось отложить операцию и расположиться в укреплённом приморском лагере между Утикой и Карфагеном на мысе, где было нетрудно окопаться, где Сципион перезимовал. Ночью нумидийцы были застигнуты врасплох — Сципион взял оба их лагеря. Однако карфагеняне дождались прибытия кельтиберского и македонского подкрепления. В 203 г. была дана битва при Баградисе (ныне Суг-аль-Хамис в Тунисе), но Сципион двойным охватом с флангов смял карфагенян. Сифакс был пленён и после 16 лет вновь активизировалась пацифистская партия Карфагена. В ответ на прекращение военных действий Сципион потребовал испанские владения и средиземноморские острова, передачи царства Сифакса Массиниссе, выдачи всего военного флота кроме 20 судов и уплаты военной контрибуции в 4 тыс. талантов. Карфагеняне приняли условия. В 202 г. в войне наступил перелом — Ганнибал был разбит при Заме, год спустя Карфагену были предъявлены 7 ультимативных требований. По возвращении в Рим Сципион справил грандиозный триумф, ознаменовавший фактическое завершение Второй Пунической войны. За это Сципион получил почётный когномен «Африканский».
Получив консулат во второй раз, Сципион воевал с галлами в северной Италии, после чего был вновь послан в Африку для дипломатических задач. Несмотря на свои филэллинские взгляды, Сципион не согласился с выводом римских войск из Греции, опасаясь вторжения в регион сирийского царя Антиоха III. В 193 г. Сципион вновь был в составе посольства в Африку и предположительно на Восток. После того как Антиох действительно вторгся в Грецию, развязав так называемую Сирийскую войну, командование над войсками получил Луций Корнелий Сципион, брат Публия. В 190 г. Сципион возвёл в свою честь триумфальную арку, после чего в качестве легата ему пришлось отправиться на борьбу с Антиохом. Последней величайшей победой Сципиона (в качестве участника войны, но не этой конкретной битвы) был разгром армии Антиоха в битве при Магнезии, завершившей Сирийскую войну.
С 187 г. до н. э. репутация Сципиона начала падать. Несмотря на то, что он был первым в списках сената и, таким образом, самым влиятельным человеком в государстве, росла популярность его политических противников, в первую очередь, Марка Порция Катона. В 187 г. народные трибуны Петилии по наущению Катона потребовали от Сципионов отчета о контрибуции, полученной от Антиоха. Луций готов был его представить, но Публий отобрал у него документы и демонстративно разорвал их на глазах у сената (Polyb. XXIII 14; Liv. XXXVIII 50; 55; Val. Max. III 7, 1d; Plut. Cat. Mai. 15; Gell. IV 18). В этом же году народный трибун Минуций Авгурин привлек к суду Луция Сципиона; последнему грозило заточение в тюрьму, и Публий попытался силой воспрепятствовать трибуну; беспорядки предотвратил другой трибун, Гракх, вступившийся за Луция (Liv. XXXVIII 52; Sen. Cons. ad Polyb. 14, 3; Val. Max. IV 1, 8; 2, 3). В 184 г. народный трибун М. Невий обвинил самого Публия Сципиона в получении взятки от Антиоха. На суде Сципион не сказал ни слова по сути обвинений, но лишь напомнил о своих заслугах перед государством и предложил народу сопровождать его на Капитолий для жертвоприношения в честь годовщины битвы при Заме. Все присутствовавшие последовали за ним, и трибуны остались на рострах в одиночестве (Cic. Or. II 249; Liv. XXXVIII 50—51; Val. Max. III 7 1e). После этого Сципион выехал в Этрурию по поручению сената, а затем удалился в свое поместье в Литерне. Формально это не являлось ссылкой, так как Литерн был колонией римского права, но В завещании распорядился похоронить себя в Литерне, а не в неблагодарном отечестве (Liv. XXXVIII 52—56; XXXIX 50—60; Gell. IV 18; VI 19; Val. Max. II 10, 2; III 7, 1; Sen Ep. 86). Точная дата смерти и место захоронения Сципиона Африканского были сомнительны уже полтора столетие спустя, хотя считается, что Август посещал его могилу.
В памяти последующих поколений имена Сципиона и Ганнибала были неразрывно связаны, оба полководца к тому же умерли в один и тот же год(этот факт считался спорным уже ко времени Тита Ливия, но определённо смерть обоих полководцев не была разделена большим временным промежутком). Женой Сципиона была Эмилия Павла, один из их сыновей и обе дочери были родными. Пасынком был Публий Корнелий Сципион Африканский Младший, дочерью — Корнелия Гракх. Сципион был похоронен по месту смерти, на могиле была высечена эпитафия поэта Квинта Энния:
"Его гордость, его уверенность, что он не такой же человек, как все другие люди, и что он лучше всех, его энергичная семейная политика, возвысившая в лице его брата Луция отвратительное чучело героя, — все это оскорбляло многих, и не без основания. Истинная гордость предохраняет человеческое сердце от низких влечений, а тщеславие не защищает его ни от каких ударов и ни от каких булавочных уколов и даже выедает в нем врожденное благородство. Но отличительная особенность таких людей, как Сципион, в которых чистое золото смешивается с блестящей мишурой, заключается именно в том, что им нужны счастье и блеск молодости, чтобы производить очарование, а когда это очарование начинает исчезать, то расставаться с ним всего мучительнее самому чародею".
Т. Моммзен. Римская история.
Благодаря итальянскому поэту Петрарке Сципион Африканский Старший занимает достойное место в ренессансной литературе и искусстве. Сципиону посвящена эпическая его поэма «Африка».
В 1726 году в Лондоне была поставлена опера Георга Фридриха Генделя «Сципион», сюжет которой основан на событиях испанской кампании полководца и известном эпизоде с пленницей.
В 1937 в Италии был снят фильм о Сципионе (англ. «Scipio Africanus — the Defeat of Hannibal»).
В 1971 году Луиджи Магни снял комедию по мотивам противостояния Сципиона Африканского и Катона «Scipione detto anche l’africano» с Марчелло Мастроянни в главной роли.