Après des études à l'Université de Los Angeles, Jack Black intègre la troupe de théâtre du comédien Tim Robbins. C'est dans Bob Roberts, réalisé par ce dernier, qu'il fait d'ailleurs ses débuts sur grand écran en 1992. Il multiplie alors les apparitions dans de grosses productions telles que Demolition man (1993), Waterworld (1995), Disjoncté (1996), Mars attacks ! (1997) ou encore Le Chacal (id.), où il a l'honneur de se faire dessouder par Bruce Willis.

Populaire outre-Atlantique en tant que chanteur du groupe de rock Tenacious D, c'est tout naturellement que Stephen Frears lui confie le rôle d'associé disquaire de John Cusack dans High fidelity (2000). Le groupe fait l'objet d'un film : Tenacious D in : The Pick of Destiny, une version fictive de la rencontre du duo. Sa passion pour la musique le rattrapera souvent comme en témoigne sa prestation d'enseignant à la Rock academy, ou encore celle de compositeur pour le cinéma dans The Holiday (2006).

Les talents vocaux de Jack Black sont également mis à contribution par le monde de l'animation. Il donne de la voix pour L'Âge de glace (id.) et Gang de requins (2004), puis prête sa voix à Po, le panda de Kung Fu Panda et Kung Fu Panda 2, Kung Fu Panda 3 et Kung Fu Panda 4.

Sur la voie du succès, l'acteur apprécié pour son côté nounours déjanté connaît L'Amour extra large (2002) avec Gwyneth Paltrow, et se transforme de modeste cuisinier mexicain en brillant lutteur dans Super Nacho (2005). Jack Black enchaîne ensuite les rôles de premier plan, qui tournent étonnamment toujours autour des tournages : il va d'abord narguer le King Kong (2005) (Peter Jackson), pour ensuite sauver le videoclub de Soyez sympas rembobinez (Michel Gondry) et enfin incarner un comique givré sur un tournage catastrophe dans Tonnerre sous les Tropiques de Ben Stiller. 

Fidèle au registre humoristique, Jack Black tient le rôle principal dans les comédies L'An 1: des débuts difficiles (2009) et Les Voyages de Gulliver (2010), où il démontre une nouvelle fois son sens de l'autodérision. L'année suivante, on le découvre ornithologue dans The Big year, avec Steve Martin et Owen Wilson, avec un succès relatif. Absent des écrans pendant quelques années, il effectue un caméo en 2014 dans Sex Tape porté par Cameron Diaz et Jason Segel.

Privilégiant les grosses productions orientées vers la comédie et la fantastique, Jack Black est à l'affiche de Chair de poule, le film, Jumanji: Bienvenue dans la jungle et La Prophétie de l'horloge, Jumanji: Next Level et Minecraft. Parallèlement, le natif de Hermosa Beach prête sa voix à des personnages de films animés comme Apollo 10½ et Super Mario Bros. le film. Fin 2025, il est à l'affiche d'Anaconda, remake du film du même nom de 1997.