Né et élevé dans le Colorado, John Carroll Lynch se passionne très tôt pour le théâtre et poursuit ses études dans cette direction. Il est ainsi titulaire du B.A.F. (diplôme artistique) du Hartke Theatre Acting program. Ses études terminées, il se consacre exclusivement aux planches et interprète bon nombre de classiques, Tchekhov et Shakespeare notamment.

Après quelques apparitions anecdotiques dans des séries et des téléfilms, il attire l'attention des critiques en 1996 grâce à son rôle de mari timide de Frances McDormand dans le polar Fargo de Joel et Ethan Coen. Cette même année, qui marque un véritable tournant dans carrière, il s'affiche aux côtés de Cameron Diaz et Keanu Reeves dans la comédie dramatique Feeling Minnesota, ainsi que dans la comédie romantique Beautiful Girls de Ted Demme et le thriller sportif Le Fan de Tony Scott avec Robert De Niro et Wesley Snipes. En une année, John Carroll Lynch a donc prouvé qu'il pouvait jongler avec les genres et tourner devant la caméra des plus grands.

C'est cependant le petit écran qui le fera véritablement connaître du grand public, notamment grâce à son rôle de travesti dans la sitcom The Drew Carey Show qu'il tient entre 1997 et 2006 dans pas moins de 72 épisodes. Il enchaîne avec une autre série, La Caravane de l'étrange. John Carroll Lynch n'en devient néanmoins pas un acteur de télévision, puisque sa carrière sera désormais caractérisée par un va-et-vient perpétuel entre petit et grand écran. Ainsi, si l'on note bien quelques apparitions dans les séries Close to Home : Juste cause, Big Love, K-Ville ou encore Lie To Me, c'est au cinéma qu'il trouvera ses rôles les plus intéressants. En effet, sa formation théâtral fait de lui un acteur à la fois doué et exigeant, ce qui lui permet de se forger une carrière qui, si elle ne lui offre jamais le haut de l'affiche, brille par sa variété.

L'acteur peut ainsi enchaîner une comédie enfantine (Full of It) avec le polar Zodiac de David Fincher (qui l'a personnellement appelé pour auditionner), s’immerger dans le drame eastwoodien Gran Torino avant de se retrouver aux côtés de Jennifer Aniston dans la comédie romantique Love Happens, ou encore aider Leonardo DiCaprio à percer le mystère de la Shutter Island de Martin Scorsese tout en saluant l'extraterrestre déjanté de Paul. Hyperactif, le comédien gagne en importance, les réalisateurs n'hésitant pas à faire appel à lui pour des rôles de plus en plus conséquents. Ainsi, outre la comédie Crazy, Stupid, Love (2011) avec le désormais incontournable Steve Carell, il rejoint le très prestigieux casting de Lay the Favorite, Take the Dog, comprenant notamment Bruce Willis, Vince Vaughn et Catherine Zeta-Jones.