Plus jeune membre d'une grande famille d'acteurs (il est le fils de la comédienne Pilar Bardem et le neveu du réalisateur Juan Antonio Bardem), Javier apparaît dès l'adolescence dans plusieurs séries télévisées. Il joue également au rugby dans l'équipe nationale espagnole et traverse le pays avec une troupe de comédiens indépendants. Il débute sur le grand écran en 1990 dans Les Amours de Lulu de José Juan Bigas Luna, puis trouve son premier grand rôle dans Jambon Jambon du même réalisateur deux ans plus tard, aux côtés de celle qui deviendra sa compagne, Penélope Cruz. Ce rôle très sexy lui procure une notoriété immédiate, jusqu'à l'élever au rang de sex-symbol.

Il l'utilise bien malgré lui en tournant deux nouveaux films signés Bigas Luna en 1994 : Macho puis La Lune et le Téton. Pedro Almodovar, qui lui avait déjà confié un petit rôle dans Talons aiguilles (1991), offre ensuite à l'acteur le rôle principal d'En chair et en os en 1998, après que ce dernier eut empoché le Goya du meilleur acteur pour Bouche à Bouche (1995). Il semble qu'Almodovar ait retrouvé en Bardem la fougue juvénile d'Antonio Banderas quelques années plus tôt. Après avoir interprété un sexopathe amoureux de Victoria Abril dans Entre les jambes (1999), l'Espagnol joue sous la direction de Julian Schnabel dans Avant la nuit (2000), se glissant dans la peau de l'écrivain cubain Reinaldo Arenas.

Un rôle qui lui vaut une nomination à l'Oscar et au Golden Globe du Meilleur acteur, ainsi que la Coupe Volpi du meilleur acteur au Festival de Venise 2000. Deux ans plus tard, le comédien mène l'enquête dans Dancer upstairs, politique-fiction et première réalisation de John Malkovich. De retour devant la caméra d'un compatriote, il incarne en 2004 Ramon Sampedro, tétraplégique qui se battit 30 ans durant pour le droit à l'euthanasie, dans Mar adentro d'Alejandro Amenabar. Sa prestation remarquable lui vaut quantité d'éloges. La cote de Javier Bardem monte en flèche et les Etats-Unis lui font de plus en plus les yeux doux au point de devenir la nouvelle coqueluche hispanique du cinéma américain.

Le comédien enchaîne ainsi les rôles marquants : inquisiteur repenti dans Les Fantômes de Goya de Milos Forman, riche armateur amoureux dans L'Amour au temps du choléra de Mike Newell, il est surtout le terrifiant et implacable tueur de No Country For Old Men des frères Coen, un rôle qui lui vaut l'Oscar du meilleur second rôle en 2008. La même année, il séduit Scarlett Johansson et Penélope Cruz chez Woody Allen dans Vicky Cristina Barcelona puis est encensé par la presse pour son rôle de père à la dérive qui parle aux âmes des morts dans le film Biutiful. Une performance qui lui vaut le prix d'interprétation masculine (ex-æquo avec Elio Germano) du Festival de Cannes 2010.

Javier Bardem s'impose ainsi comme l'un des meilleurs acteurs du monde et a fortiori un des plus prisés. Il accède à la consécration en 2012 en incarnant le grand méchant Raoul Silva dans le nouveau James Bond, Skyfall. Longs cheveux blonds et attitude féminisée, la prestation hallucinée de l'Espagnol est unanimement saluée. Toujours en 2012, le comédien reçoit son étoile sur le Hollywood Walk of Fame de Los Angeles. L'année suivante, il est à l'affiche de deux projets radicalement opposés, À la merveille de Terrence Malick où il incarne le père Quintana, homme d'Eglise qui doute de sa Foi, et Cartel de Ridley Scott, d'après un scénario de Cormac McCarthy. 

Après lui avoir donné la réplique dans le film d'action Gunman, Javier Bardem tourne sous la direction de Sean Penn dans The Last Face. Il y est un médecin en mission humanitaire qui tombe amoureux de Charlize Theron. Le film reçoit un accueil glacial au Festival de Cannes 2016 où il est présenté en sélection officielle. Malgré cet échec, il est à l'affiche de deux autres films en 2017. Le premier est l'un des plus gros blockbusters de l'année : Pirates des Caraïbes : la Vengeance de Salazar, où il est un terrifiant capitaine revenu d'entre les morts bien décidé à en découdre avec Jack Sparrow. Le second est le controversé Mother! de Darren Aronofsky, où il donne la réplique à Jennifer Lawrence. 

L'année 2018 est marquée par deux nouvelles collaborations avec Penélope Cruz. Le couple se retrouve en effet dans le biopic Escobar consacré au baron de la drogue puis dans Everybody Knows de l'Iranien Asghar Farhadi, qui fait l'ouverture du Festival de Cannes 2018. Trois ans plus tard, il se glisse dans la peau de Stilgar dans le brillant blockbuster SF Dune (qui donne lieu à une suite en 2024) puis, toujours en 2021, campe l'acteur Desi Arnaz dans le biopic Being the Ricardos. Il incarne ensuite un chef d'entreprise dans El buen patrón (2022) et joue le Roi Triton dans La Petite Sirène (2023).