Fils de deux peintres, James Mangold s'intéresse rapidement au cinéma qu'il étudie à la California Institute of Arts avec le cinéaste Alexander Mackendrick. Mais c'est en 1985 que le destin lui sourit, lorsqu'il est engagé par Disney pour lesquels il signe, entre autres, le scénario de Oliver et compagnie. En 1995, il signe son premier long métrage, Heavy, une plongée dans le quotidien d'un petit restaurant de l'Etat de New York qui lui rapporte le Prix Spécial du Jury à Sundance. Deux ans plus tard, il est consacré par la critique internationale avec le polar Copland, offrant un rôle à contre-emploi de shérif sourd à Sylvester Stallone.

En 1999, James Mangold dirige Angelina Jolie dans Une vie volée, adaptation de l'autobiographie d'une femme ayant passé deux ans de sa vie en hôpital psychiatrique. Après des films sombres aux thèmes délicats, il change de cap et met en scène sa première comédie, Kate & Leopold, romance sur fond de voyage dans le temps où Hugh Jackman donne la réplique à Meg Ryan. Il revient deux ans après avec Identity, un thriller très sombre et surtout très malin, dans lequel il dirige des comédiens chevronnés comme par exemple John Cusack, Ray Liotta, Alfred Molina ou encore Rebecca De Mornay.

Après plusieurs années de préparation, il signe en 2005 Walk the line, un biopic célébrant l'une des légendes de la musique Country : Johnny Cash, en confiant le rôle-titre à un Joaquin Phoenix dont la performance est unanimement saluée. Grand admirateur du western Trois heures dix pour Yuma qu'il a découvert à l'âge de 17 ans, il met en scène quarante ans après un remake, en offrant les rôles principaux à Russell Crowe et Christian Bale. En 2010, le metteur en scène réunit Tom Cruise et Cameron Diaz (qui s'étaient déjà donnés la réplique sur Vanilla Sky en 2001) pour la comédie d'action Night and Day.

James revient en 2013 dans un genre plus fantastique et réalise Wolverine : Le combat de l'immortel, porté par le massif Hugh Jackman. Trois ans plus tard, le metteur en scène et le comédien rempilent pour Logan, ultime volet consacré au célèbre mutant et qui se révèle plus sombre que les précédents opus de la franchise. Puis, le cinéaste livre Le Mans 66, un biopic automobile avec Matt Damon et Christian Bale. En 2020, il est choisi pour être aux commandes de Indiana Jones et le Cadran de la Destinée en remplacement de Steven Spielberg (qui reste producteur), cinquième volet de la saga culte avec Harrison Ford.