Он был сыном мясника, первоначально и сам торговал в мясной лавке отца, но затем занялся государственной деятельностью и достиг претуры во время 2-й Пунической войны. Постоянные неудачи, которые терпели римляне, и медлительность Фабия Кунктатора возбудили плебс против патрициев. Народная партия требовала назначения консула из плебеев. Гай Теренций воспользовался удачным моментом, поставил свою кандидатуру в консулы и был выбран. В товарищи ему был выбран кандидат патрицианской партии Луций Эмилий Павел. Консулы с набранными вновь войсками двинулись против Ганнибала. Гаю Теренцию удалось разбить в первой схватке карфагенский отряд, но затем в Апулии, при Каннах, он согласно желанию своей партии и по требованию войск решил дать Ганнибалу генеральное сражение, несмотря на требования Эмилия Павла придерживаться стратегии Фабия. Римляне потерпели полное поражение. Валерий Максим, объясняет это поражение гневом богов:
Эмилий Павел был убит, Гай Теренций с остатками войска вернулся в Рим, где ему, несмотря на неудачу, оказали прекрасный приём, сенат выразил ему благодарность. По рассказам некоторых историков, ему предлагали даже диктатуру, но он отказался. В 215 и 214 годах до н. э. он командовал войсками в Пицене. В 200 году до н. э. был в Африке в качестве посла.