Будущий фельдмаршал родился 10 октября 1678 года в семье Арчибальда Кэмпбелла, 1-го герцога Аргайла и Элизабет Толлмаш (Tollemache), дочери сэра Лионеля Толлмаша, 3-го баронета Толлмаша; Джон наследовал титул герцога Аргайла и главы (вождя, Chief) клана Кэмпбеллов после смерти отца в 1703 году. В этом же году (1703), 4 февраля стал Рыцарем Ордена Чертополоха. В 1704 году получил чин бригадира. В 1705 году, за поддержку Акта об Унии, Джон Кэмпбелл получил титулы барона Чатэма и графа Гринвичского.
Во время Войны за Испанское наследство сражался под началом герцога Мальборо с 1708 по 1710года; принимал участие в битве при Ауденарде и битве при Мальплаке.
22 декабря 1710 года стал Рыцарем Ордена Подвязки, покинув в то же время ряды Рыцарей Ордена Чертополоха.
В 1711 году назначен Главнокомандующим британскими войсками в Испании (по инициативе кабинетов партии Тори — лорда Оксфорда и лорда Болингброка), в июне 1712 — апреле 1714 года и с 5 октября 1714 по 29 июня 1716 года был также губернатором острова Минорка.
Однако уже к 1713 году герцога начали критиковать со стороны правящих кабинетов в Англии, и он перешел на сторону Вигов (тогда оппозиции), произнося речи против правительства Тори в Палате лордов. В июле 1714 году, неожиданное присутствие Кэмпбелла и герцога Сомерсета в Тайном совете (Privy Council) возможно предотвратило переход всей власти в руки Болингброка (Bolingbroke) от уходящего в отставку кабинета лорда Оксфорда, и, таким образом, обеспечило наследование британского престола представителями Ганноверской династии после смерти королевы Анны.
В 1715 году герцог возглавил правительственные войска, направленные на подавление восстания якобитов, вспыхнувшее в Шотландии. Войска мятежников под предводительством графа Мара (earl of Mar) были разбиты 13 ноября в сражении у Шериффмур (Sheriffmuir). В награду за подавление мятежа Аргайл получил титул герцога Гринвичского.
Герцог был одним из губернаторов-основателей Foundling Hospital в Лондоне (учреждение по презрению детей-сирот), начавшего свою деятельность в 1739 году. В 1742 году, за год до своей смерти, фельдмаршал был назначен Главнокомандующим войсками Британской армии (Commander in Chief of the British Army).