Pierre Arditi débute la comédie par l'intermédiaire de sa sœur Catherine, inscrite au cours d'art dramatique de Tania Balachova, qui l'encourage à embrasser cette carrière pour laquelle, au départ, il ne se sentait pas particulièrement destiné.

Ses débuts sont modestes. En 1965, il entre dans la compagnie de l'acteur, metteur en scène et écrivain Marcel Maréchal, et joue pour la première fois au théâtre dans L'opéra du monde d'Audiberti. Il gravit les échelons au fur et à mesure des années, passant de la figuration aux seconds puis premiers rôles. Il joue ainsi dans Diderot à corps perdu, mis en scène par Jean-Louis Barrault, Trois lits pour huit de Pierre Mondy, ou encore Tailleur pour dames sous la direction de Bernard Murat. Il apparaît également à la télévision, où il est notamment dirigé par Michel Mitrani et Serge Moati. En 1971, le cinéaste Roberto Rossellini lui confie le rôle de Blaise Pascal dans le téléfilm du même nom.

Comédien de théâtre avant tout, Pierre Arditi effectue ses véritables débuts devant la caméra en 1977 avec L'Amour violé, où il croise un autre jeune débutant, Daniel Auteuil. Sa première vraie rencontre avec la cinéma se produit trois ans plus tard, lorsqu'il fait la connaissance décisive d'Alain Resnais, qui le dirige pour son Oncle d'Amérique. Entre les deux hommes, c'est le début d'une très longue et prolifique collaboration : La Vie est un roman (1983), L'Amour à mort (1984), Mélo (1986), qui le voit récompensé par le César du Meilleur second rôle, mais aussi Smoking / No Smoking (1992), le fameux diptyque ultra plébiscité qui remporte cinq Césars (dont celui du Meilleur acteur pour Arditi), puis On connaît la chanson (1997), Pas sur la bouche (2003), Coeurs (2006) et enfin Vous n'avez encore rien vu (2012).

De cette solide alliance naît une véritable famille d'acteurs : entre Arditi, André Dussollier, Lambert Wilson et Sabine Azéma, les affinités professionnelles se ressentent et les comédiens se partagent l'affiche à de très nombreuses reprises.

Parallèlement, Arditi allie désormais ses deux passions, théâtre et cinéma, en donnant un équilibre à sa carrière : il alterne entre les films et les pièces de théâtre, jouant notamment en 1987 dans la pièce à succès L'Éloignement, au Théâtre de la Gaîté-Montparnasse, mis en scène par Bernard Murat : "Ce n'est pas un métier de radin, il faut dépenser sans compter. Faire deux choses en même temps, j'en ai besoin pour être créatif". Le comédien étend également son registre : il est un haut fonctionnaire dans le film d'espionnage Agent trouble réalisé par Jean-Pierre Mocky, un inspecteur épris de vengeance dans Radio corbeau d'Yves Boisset, ou encore un chirurgien maladivement jaloux dans la comédie Vanille fraise, mise en scène par Gérard Oury.

Alternant toujours le théâtre et le cinéma, Pierre Arditi gagne en éclectisme avec les années : il s'essaie au drame historique dans Le Hussard sur le toit (1995), rejoint pour la première fois la "famille" Lelouch dans Hommes, femmes : mode d'emploi, expérience qu'il réitère avec Hasards ou coincidences l'année suivante et Le Courage d'aimer en 2005, puis joue son propre rôle dans Les Acteurs, comédie biographique de Bertrand Blier.

En dehors de la scène et du grand écran, Arditi n'oublie pas de faire des incursions régulières par la petite lucarne, à qui il doit en partie sa popularité. Il y apparaît très fréquemment à partir de 1994. Papa-modèle marié à Brigitte Fossey dans Un et un font six, il tourne également, entre 1994 et 1996, L'enfant de Cuba, L'enfant de Soweto et L'enfant d'Israël. Il retrouve Yves Boisset pour L'Affaire Dreyfus en 1994, et travaille avec Caroline Huppert (J'ai deux amours, 1995), Jean-Michel Ribes (Faisons un rêve, 1995, remake du film de Sacha Guitry), Elisabeth Rappeneau (L'amour dans le désordre, 1997). Il participe aussi à l'aventure de l'imposante saga de 1998, Le Comte de Monte-Cristo, de Josée Dayan, record d'audience dans le domaine de la fiction télévisée.

Durant les années 2000, il fait une incursion dans l'univers du roman policier, d'une part en prêtant ses traits à l'inspecteur Larsan dans les films de Bruno Podalydès adaptés du roman de Gaston Leroux, Le Mystère de la chambre jaune (2002) et sa suite Le Parfum de la dame en noir (2004), et d'autre part à travers l'adaptation d'un roman policier d'Agatha Christie, Le Grand alibi, réalisé par Pascal Bonitzer. Mais la décennie marque également la participation du comédien à de nombreuses comédies, sous la direction de metteurs en scène prestigieux comme Claude Berri (L'Un reste, l'autre part, 2004), Pascal Thomas (Le Grand appartement, 2006), Alexandre Arcady (Tu peux garder un secret ?, 2007) ou Danièle Thompson (Le Code A Changé, 2009).

Depuis plusieurs années, à la télévision, Pierre Arditi s'illustre également de façon récurrente dans un exercice qui lui permet d'allier théâtre et divertissement populaire : il participe à des retransmissions télévisées de pièces de théâtre qu'il joue en direct sur les planches des salles les plus prestigieuses : ainsi, le 3 novembre 2007, il interprète en direct la pièce de Sacha Guitry, Faisons un rêve, sur la scène du théâtre Edouard-VII, aux côtés de Michèle Laroque et François Berléand dans une mise en scène de Bernard Murat, et poursuit sur sa lancée avec diverses représentations comme L'Eloignement, Les Fausses confidences, vaudeville marivaudesque, ou encore La Vérité, adaptée de l’œuvre contemporaine de Florian Zeller.

En 2009, en grand admirateur d'Arditi, Didier Bourdon lui offre un rôle dans Bambou, que l'acteur fait suivre l'année suivante avec Streamfield les carnets noirs, inspiré de l'affaire Clearstream. Mari trompeur dans Ensemble c'est trop (2010), paternel d'un magicien dans Adieu Berthe ou l'enterrement de mémé (2012), il se trouve un père en la personne de Jean-Pierre Marielle, de douze ans son aîné, dans La fleur de l'âge (2013). Il apparaît ensuite, comme à son habitude, dans des films mettant en valeur son talent, comme Monsieur et Madame Adelman, Les Estivants, La Belle Époque, Adieu Paris et Les Choses humaines de Yvan Attal. Dans ce dernier, il campe un célèbre et détestable présentateur radio dont le fils est accusé de viol.

Il retrouve ensuite Attal devant la caméra de Bruno Chiche pour Maestro(s), un film sur le milieu de la musique classique. Parallèlement, à presque 80 ans, le natif de Paris poursuit sa carrière théâtrale (Compromis de Philippe Claudel, Fallait pas le dire ! de Salomé Lelouch, etc.), et télévisuelle (Le Sang de la vigne, série dans laquelle il incarne le personnage principal, Ce que Pauline ne vous dit pas, etc.).