Cadet de trois frères, Billy Crudup, diplômé des Beaux-arts, se passionne très tôt pour la comédie, discipline qu'il songe à enseigner. Recompensé pour sa performance à Broadway dans la pièce Arcadia, l'acteur, qui confie préférer le théâtre au cinéma, tourne pourtant dès 1994 dans Grind, production indépendante qui sortira en salles trois ans plus tard. Mais c'est en 1996, dans le Sleepers de Barry Levinson, aux côtés de Robert De Niro et Brad Pitt, qu'il se révèle. La même année, il apparaît au générique de Tout le monde dit I love you de Woody Allen.

De plus en plus sollicité par Hollywood (il fut pressenti pour le rôle principal de Titanic), Billy Crudup, acteur au physique de jeune premier, préfère tourner dans des productions modestes comme The Hi-Lo Country, western décalé de Stephen Frears, ou Jesus' son, film indépendant dans lequel il délivre une saisissante composition de junkie. Et lorsqu'il travaille, en 2000, avec Cameron Crowe, c'est pour le très personnel Presque célèbre, dans lequel ce passionné de musique incarne le charismatique guitariste d'un groupe de rock des 70's.

Partenaire de stars féminines comme Julianne Moore (World Traveler) ou Cate Blanchett (Charlotte Gray), Billy Crudup se voit souvent confier des rôles de héros romantiques, tels le politicien en herbe du Fantôme de Sarah Williams (2000) ou l'acteur travesti de Stage Beauty (2005). Après avoir incarné, en 2003, le fils d'un fantasque Albert Finney dans le Big fish de Burton, il se retrouve aux génériques de deux grosses productions : aux côtés de l'agent Tom Cruise dans M : i : III, puis au sein de l'imposant casting de The Good Shepherd, réalisé par De Niro. En 2009, Billy Crudup poursuit son irrésistible ascension en étant l'un des Watchmen de Zack Snyder et en donnant la réplique à Johnny Depp dans le Public Enemies de Michael Mann.