Карлос Гон родился 9 марта 1954 в Бразилии. По происхождению — ливанец-христианин. В 1974 окончил химический факультет Политехнической Школы (Париж), а в 1978 — Высшую горную школу (Париж).
С 1978 работал в компании Michelin, возглавлял бразильское и североамериканское подразделения компании, занимал должность гендиректора по производству легковых шин и шин для лёгких грузовиков. С декабря 1996 — исполнительный вице-президент Renault. В июне 1999 года переведён в Nissan на должность директора по производству, затем стал президентом компании (июнь 2000) и генеральным директором (июнь 2001). За время работы в Nissan получил прозвище «Убийца расходов», так как осуществленная им программа по жесткому сокращению расходов, позволила вызволить компанию из глубокого кризиса. С 29 апреля 2005 также занимает должности президента и гендиректора Renault.