Diplômée du William Esper Studio, Gretchen Mol est serveuse dans un restaurant quand elle est remarquée par son futur agent. Celui-ci lui fait tourner un spot publicitaire pour Coca-Cola. En 1996, Gretchen Mol fait une apparition aux côtés de Michael J. Fox dans la série télévisée Spin city. Au cinéma, on peut apercevoir sa jolie frimousse dans Girl 6 (1996) de Spike Lee, Nos funérailles (id.) et New Rose Hotel (1998) d'Abel Ferrara, Donnie Brasco (1997) de Mike Newell et Celebrity (1998) de Woody Allen.

Ses rôles prennent de l'importance dès 1998 avec Les Joueurs de John Dahl, elle incarne alors la petite amie de Matt Damon. A l'écran, elle est également la compagne de Johnathon Schaech dans Road to Graceland de David Winkler, la demoiselle que cherche à conquérir Jude Law dans Le Cygne du destin (id.) et la fille d'un informaticien, joué par Armin Mueller-Stahl, dans Passé virtuel (1999) de Josef Rusnak. Après avoir été dirigée par Paul Schrader dans le thriller Les Amants interdits (1999), Gretchen Mol se fait plus rare sur les écrans de cinéma. C'est en incarnant la pulpeuse Bettie Page dans un biopic (2005) de Mary Harron et en interprétant la comédie romantique indépendante Puccini et moi (2006) que la belle retrouve le chemin des studios.

Un autre premier rôle féminin en 2007 dans le drame romantique The Valley of Light inaugure une année prolifique pour l'actrice, où elle se tourne d'abord vers la comédie dans The Ten, une suite de courts-métrages parodiant l'épisode biblique des Dix Commandements, aux côtés d'Adrien Brody et Paul Rudd, puis dans American Loser. La même année, elle est à l'affiche du western 3h10 pour Yuma de James Mangold où elle interprète la femme désabusée d'un des deux personnages principaux, un soldat revenu de la guerre de Sécession qui a incité la famille, contre son avis, à s'installer dans un ranch délabré au milieu d'une plaine désertique. 

Après quelques projets comme la comédie The Tenure en 2008 et An American Affair en 2009, où elle apparaît en beauté des années 60 à la Marilyn Monroe, elle obtient en 2010 un rôle régulier dans la série à succès Boardwalk Empire, scénarisée par Terence Winter. Gretchen Mol y incarne la mère de James Darmody, le protégé du mafieux Nucky Thompton. Son personnage est une femme manipulatrice qui causera, involontairement, dans sa volonté de couler l'empire de Thompson, la mise à mort de son propre fils. En 2014, elle fait son retour sur le grand écran dans Girls Only avec Keira Knightley, avant de jouer dans True Story, un thriller de Rupert Goold avec James Franco.