Enfant, James Earl Jones souffre d'un bégaiement particulièrement handicapant. Pour résorber ce problème d'élocution, un praticien lui conseille de suivre des cours de théâtre. Ce qui ne devait être qu'une thérapie devient bientôt une passion dévorante. Dans les années soixante et soixante-dix, il devient incontournable à Broadway et obtient même un Tony Award pour son interprétation du boxeur Jack Johnson dans The Great White Hope. Il fait sa première apparition au cinéma, avec un petit rôle dans le Docteur Folamour (Stanley Kubrick, 1964). Dès lors il enchaîne les films, et rejoint les plus grands, comme Elizabeth Taylor et Richard Burton dans Les comédiens. Il joue même le premier président noir américain dans The Man (1972), et participe désormais à de grosses productions, sa stature et sa voix devenant ses marques de fabrique.

Il devient mondialement célèbre en donnant son timbre si particulier à Dark Vador, dans la trilogie des Star Wars de George Lucas. Il donne la réplique au débutant Arnold Schwarzenegger dans Conan le barbare (1982), où il joue l'infâme sorcier que Conan tente de vaincre. James Earl Jones alterne les rôles dans des films d'aventures comme Allan Quatermain et la cité de l'or perdu (1987), et les drames politiques, il joue Malcom X dans The Greatest aux côtés de Mohammed Ali, ou un ouvrier syndicaliste dans Matewan de John Sayles en 1987. Cette même année, Francis Ford Coppola l'engage pour Jardins de pierre, où il interprète un sergent major. Les rôles de militaire lui seront souvent proposés par la suite, comme dans A la poursuite d'Octobre rouge (1990) de John Mc Tiernan. Mais c'est un roi qu'il joue dans Un prince à New York avec Eddie Murphy.

Parallèlement, il poursuit une carrière à la télévision, et apparaît dans de nombreuses séries et téléfilms, devenant un visage reconnu immédiatement par les téléspectateurs.

Outre Dark Vador, il reste dans les mémoires pour avoir été la voix de Mufasa dans les deux versions du Roi Lion (1994 et 2019). Après plusieurs rôles dans des films secondaires, près de vingt ans après leur première collaboration, il retrouve George Lucas et le mythique Dark Vador, (incarné à l'écran par Hayden Christensen), à qui il redonne cette voix asthmatique dans Star wars : Episode III - La Revanche des Sith (2005), la série Star Wars Rebels et Rogue One. En 2012, il reçoit un Oscar d'honneur pour l'ensemble de sa carrière.