Clark Gregg naît à Boston dans le Massachussetts en 1962, d'un père professeur de religion à l'Université de Stanford et chaplain de l'Église de la même ville. Durant ses études à l'Université de New York, il fait la rencontre du scénariste David Mamet et de l'acteur William H. Macy qui deviendront par la suite ses mentors. Les deux hommes lui offrent ses tout premiers rôles dans leurs longs-métrages respectifs : Parrain d'un Jour, La Prisonnière Espagnole, Séquences et Conséquences et Spartan pour Mamet, et le téléfilm Lip Service pour Macy.

Après cela, l'acteur suit son propre parcours et fait des apparitions dans plusieurs autres films dont les plus marquants sont : In Good Company, Sex & The City, Usual Suspects et Magnolia. A la télévision, il se partage l'écran durant cinq saisons avec Julia Louis-Dreyfus dans la comédie Old Christine.

En parallèle de sa carrière d'acteur, Gregg est aussi scénariste et réalisateur. Ainsi, en 2008, il porte la double casquette sur la comédie noire Choke, adaptation du roman du même nom, pour l'écriture duquel il consulte son père sur l'aspect spirituel de l'oeuvre.

Clark Gregg devient une véritable figure de l'univers Marvel quand en 2008, il enfile pour la première fois le costume de l'agent Coulson. Il apparaît ainsi dans certains des films consacrés aux super-héros présents dans Avengers, comme Iron Man et Thor, ou en prêtant sa voix à son propre personnage dans les séries animées et jeux vidéo du studio Disney. En 2012, il participe logiquement au rassemblement des super-héros dans le 1er volet des Avengers de Joss Whedon. Il reprend son rôle dans la série dérivée de la franchise, Marvel’s Agents of S.H.I.E.L.D., lancée à la rentrée 2013 sur ABC. Toujours à la tête de l'agence, il costitue une équipe chargée de veiller à la sécurité de la population contre des menaces de type surnaturelles, voire extraterrestres.