Кларк Грегг родился в Бостоне, штат Массачусетс, его отец, Боб Грегг, священник в епископальной церкви. Он вырос в Чапел-Хилл, штат Северная Каролина.
В начале своей карьеры Грегг преимущественно снимался в ролях второго плана, а также в эпизодических ролях в разных телевизионных работах и сериалах. Однако, среди этих его работ были такие знаменитые картины, как Толстяк и малыш, Прямая и явная угроза, Магнолия, а также популярные сериалы Закон и порядок и Секс в большом городе.
Как режиссёр Грегг дебютировал в 2008 году, когда снял фильм Удушье по одноимённому роману североамериканского писателя Чака Паланика.
Достаточно широкую известность Греггу принесла роль Фила Колсона в фильмах кинематографической вселенной Marvel компании Marvel Studios (Железный человек в 2008, Железный человек 2 в 2010, Тор в 2011 и Мстители в 2012 году).
Женат на Дженнифер Грей. У пары один ребёнок — дочь Стелла (род. 3 декабря 2001).