Formé au métier d'acteur à l'Actors Studio de Vancouver, Barry Pepper fait ses premières armes dans les téléfilms A killer among friends (1992), Johnny's girl (1995) et Titanic (1996) avant de s'illustrer au cinéma dans la comédie familiale suisso-canadienne Urban safari (id.) et le film d'action Firestorm (1998).

Son premier rôle majeur est celui du sniper Daniel Jackson dans Il faut sauver le soldat Ryan de Steven Spielberg. Détective dans Ennemi d'Etat (1999), gardien de prison dans La Ligne verte (2000), jeune et héroïque chasseur dans Terre champ de bataille (id.), son visage taillé à la serpe et son physique émacié deviennent familiers pour le grand public.

Nommé aux Emmy Awards et aux Golden Globes en 2002 pour sa prestation dans le téléfilm 61*, Barry Pepper figure, tout comme Vin Diesel et Seth Green, parmi Les Hommes de main du duo de scénaristes Koppelman / Levien. Il joue les seconds rôles dans les films de guerre au côté de Mel Gibson dans Nous étions soldats de Randall Wallace (2001), ainsi que dans La 25e heure (2003) de Spike Lee, où il donne la réplique à Edward Norton. Il se fait enfin remarquer par Tommy Lee Jones qui l'invite en 2004 à entreprendre avec lui, le périple initiatique dans Trois enterrements, et tourne en 2006 sous la direction de Clint Eastwood, dans le film Mémoires de nos pères. On le retrouve ensuite dans le film Unknown de Simon Brand, puis aux côtés de Will Smith dans Sept vies en 2009. Après le drame Princess Kaiulani, il interprète un homme qui sort de prison et qui cherche à récupérer son fils dans Like Dandelion Dust aux côtés de Mira Sorvino. En 2011, il fait partie du casting prestigieux (Jeff Bridges, Matt Damon et Josh Brolin) du western True Grit des Frères Coen.