Jacques Weber s'initie à l'art dramatique dès l'adolescence et délaisse alors ses études. Après le Conservatoire du XVIIe arrondissement où il rencontre Francis Huster, il entre à l'âge de 16 ans à la Rue Blanche, puis au Conservatoire National l'année suivante. Trois ans plus tard, il obtient un prix d'excellence à l'unanimité au Concours de sortie et refuse d'être engagé à la Comédie Française pour rejoindre Robert Hossein à Reims.

Parallèlement à une riche carrière théâtrale, Jacques Weber commence une activité cinématographique sporadique, faisant une petite apparition dans Raphaël ou le débauché en 1971, puis abordant des rôles secondaires dans Faustine et le bel été de Nina Companeez (1972), Etat de siège de Costa-Gavras (1973) et R.A.S. d'Yves Boisset (id.). On peut aussi l'apercevoir à la télévision dans plusieurs séries et téléfilms. L'alternance entre le cinéma, la télévision et le théâtre constituera d'ailleurs sa principale ligne de conduite au sein de sa longue carrière.

Malgré quelques rôles remarqués (Rive droite, rive gauche (1984) de Philippe Labro et Escalier C (1985) de Jean-Charles Tacchella) ce n'est qu'en 1990 avec Cyrano de Bergerac de Jean-Paul Rappeneau qu'il se fait connaître du grand public. Il obtient grâce au rôle du Comte de Guiche le César du Meilleur Acteur dans un second rôle en 1991. Depuis, il prête sa carrure solide à des personnages de composition hauts en couleurs, aristocrate herculéen dans Beaumarchais, l'insolent d'Edouard Molinaro (1996) ou psychologue frustré dans 7 ans de mariage de Didier Bourdon (2003). Il signe un long métrage pour le cinéma en 1998, Don Juan, tiré de la pièce de Molière, dont il est le personnage principal. Il réalise, également, des adaptations pour la télévision : Ruy Blas (2002) et Figaro (2008).

A partir de 2006, il se fait plus présent au cinéma et se spécialise dans la comédie. Il est ainsi à l'affiche, généralement dans des seconds rôles, de Les Aristos, Les Ambitieux, Odette Toulemonde ou encore Fais-moi plaisir ! et Ensemble c'est trop. Il joue même son propre rôle dans Le Bal des actrices (2009) de Maïwenn. En 2012, on peut le voir dans deux comédies (Sur la piste du Marsupilami et Arrête de pleurer Pénélope) mais aussi dans le drame Bienvenue parmi nous de Jean Becker. Si son temps d'apparition à l'écran n'est jamais très important, c'est parce qu'il se consacre principalement au théâtre. En témoignent ses prestations dans Le Prix Martin d'Eugène Labiche, La Dame de la mer d'Henrik Ibsen, L'Avare et Le Tartuffe de Molière ou Le Roi Lear de William Shakespeare.

Apparaissant dans les films Mauvaise Fille (2012), Le Grand Retournement (2013), Un prince (presque) charmant (id.), Les Yeux jaunes des crocodiles (2014), Mort à Sarajevo (2017) et Andy (2019), Jacques Weber prend parallèlement part aux séries Le Passager (2015), La Mante (2017), Philharmonia (2019) et En thérapie (2022), ainsi qu'aux téléfilms Tu vivras ma fille (2018) et Meurtres en Haute-Savoie (id.). Le comédien de 73 ans connaît par ailleurs une année 2022 chargée côté grand écran puisqu'il incarne Luc Gaucher, le candidat Républicain, dans le drame politique Le Monde d'hier de Diastème, et campe l'un des personnages principaux du thriller L'Origine du mal de Sébastien Marnier.