Diplômé de la Yale School of Drama, Thomas McCarthy entame sa carrière d'acteur en 1992 avec un petit rôle dans Crossing the Bridge, une comédie dramatique américaine réalisée par Mike Binder. Par la suite, il enchaîne les rôles dans des séries télévisées (Ally McBeal, Boston Public, The Practice) avant de découvrir les joies de la comédie, notamment avec Mon beau-père et moi, Le Gourou et les femmes ou encore The Last Shot.

En 2003, McCarthy saute le pas et réalise son premier long métrage, The Station Agent, une comédie dramatique écrite par ses soins et qui remporte trois prix au Festival de Sundance 2003 (le Prix du public, le Prix du Scénario, et un Prix Spécial du Jury pour la performance de Patricia Clarkson) ainsi que le Prix Spécial du Jury au Festival de San Sebastian. Ce succès ne l'empêche pas de continuer sa carrière d'acteur, puisqu'il tourne sous la direction de George Clooney (Good Night, and Good Luck), Clint Eastwood (Mémoires de nos pères) ou encore Steven Zaillian (Les Fous du roi).

En 2008, l'acteur revient à la réalisation avec The Visitor, un drame tendre et touchant sur l'immigration salué par la critique et le public et qui reçoit le Grand Prix du 34e Festival du Cinéma Américain de Deauville. L'essai est donc transformé et Thomas McCarthy se fait un nom au sein du cinéma indépendant américain. Il ne disparaît pas pour autant des écrans puisqu'on le retrouve dans la comédie Baby Mama et le film d'espionnage Duplicity. La même année, c'est à lui que l'on doit l'idée originale du film d'animation Là-haut, une belle histoire d'amitié entre un petit garçon et un vieil homme aigri mais aventurier. Il a également été le reporter Scott Templeton dans la saison 5 de la série culte The Wire. 

Après des rôles secondaires dans les productions américaines 2012 et Lovely Bones, il écrit en 2010 les scénarios des films de Johan Grimonprez (Double Take) et de Colm McCarthy (Outcast). L'année suivante, Thomas McCarthy réalise son troisième film, Les Winners, qu'il écrit et produit. Il fait une nouvelle fois partie de la sélection officielle du Festival du Film de Sundance en 2011.

Après avoir mis en scène The Cobbler, comédie avec Adam Sandler, le cinéaste s'attelle à réaliser un ambitieux long-métrage sur un scandale impliquant des prêtres pédophiles aux USA mis au jour en 2002 par une équipe de journalistes du Boston Globe. Le film a pour titre Spotlight et remporte l'Oscar du meilleur film et du meilleur scénario original en 2016, une consécration pour Tom McCarthy.

Le cinéaste poursuit en réalisant deux épisodes de la série à succès 13 Reasons Why et le long métrage pour enfants Timmy Failure : des erreurs ont été commises, l'histoire d'un jeune détective privé aidé par un ours polaire... Il revient en 2021 avec le thriller Stillwater, dans lequel Matt Damon campe un foreur de puits de pétrole dont la fille est incarcérée à Marseille pour un crime qu'elle n'aurait pas commis. Le film est présenté à Cannes en hors-compétition au Festival de Cannes.