Fille d'un physicien, Elsa Zylberstein pratique dès l'enfance la danse classique. L'adolescente timide se tourne vers la comédie en intégrant après le bac la classe libre du cours Florent, avec pour professeur Francis Huster. Apparue à l'écran dès 1989 dans Baptême, elle se fait remarquer grâce au Van Gogh de Pialat. Engagée comme figurante, elle décroche finalement le rôle de Cathy, la prostituée en robe rouge, après le renvoi de la comédienne initialement choisie. Cette prestation lui vaut le Prix Michel-Simon en 1992, ainsi que la première de ses trois nominations au César du Meilleur espoir.

Etudiante espiègle dans Beau fixe, Elsa Zylberstein, lauréate du Prix Romy-Schneider en 1993, inspire les jeunes réalisatrices comme Pascale Bailly, Diane Bertrand (Un samedi sur la Terre) et surtout Martine Dugowson, dont elle devient l'actrice fétiche. La cinéaste lui offre le rôle principal, aux côtés de Romane Bohringer, de Mina Tannenbaum, récit d'une amitié qui obtient un joli succès public en 1994. La comédienne au tempérament passionné affiche bientôt une prédilection pour les films d'époque, de Farinelli à Monsieur N. en passant par Jefferson à Paris. Celle qu'on avait découverte dans les bras du peintre d'Auvers-sur-Oise, incarne Suzanne Valadon dans Lautrec, puis la maîtresse de Modigliani.

Dévoilant sa fantaisie dans Tenue correcte exigée (1997), Elsa Zylberstein s'éprend d'un clarinettiste homosexuel dans L'Homme est une femme comme les autres, avec Antoine de Caunes, alors son compagnon. Ce mélange de romantisme et de folie douce ne pouvait que séduire Raoul Ruiz, qui dirige l'actrice dans son proustien Temps retrouvé, mais aussi dans les farfelus Combat d'amour en songe et Ce jour-là (2003). Faisant preuve d'un remarquable éclectisme, la comédienne passe d'un film d'Akerman à une comédie avec Kad Merad (J'invente rien, 2006), d'une variation très personnelle autour d'un roman de Christine Angot (Pourquoi (pas) le Brésil de Laetitia Masson) à une superproduction inspirée d'un best-seller (Le Concile de pierre). En 2008, elle est à l'affiche de deux chroniques très contemporaines présentées au Festival de Berlin, Il y a longtemps que je t'aime et La Fabrique des sentiments.

Après avoir reçu un César de la Meilleure actrice dans un second rôle couronnant sa performance dans Il y a longtemps que je t'aime, elle retrouve en 2009 Antoine de Caunes dans la suite de L'homme est une femme comme les autres, intitulée La Folle histoire d'amour de Simon Eskenazy. Cette même année, elle intègre l'univers de la série Vénus et Apollon, le temps de huit épisodes, dans le rôle d'une femme complexe, presque psychotique. Elsa Zylberstein se montre ensuite de plus en plus à l'aise dans les comédies ; après avoir vécu Les Tribulations d'une caissière, elle devient folle de JC Comme Jésus Christ, un adolescent réalisateur aussi prétentieux que célèbre ; elle assiste ensuite à un mariage qui tourne mal dans Plan de table, avec Franck Dubosc et Audrey Lamy, avant de chercher Les têtes de l'emploi, toujours avec Dubosc et François-Xavier Demaison.

Elsa Zylberstein se fait ensuite plus discrète et n'apparaît que dans quelques seconds rôles, y compris à l'international (Les lignes de Wellington, À votre bon coeur mesdames, Gemma Bovery). C'est Claude Lelouch qui lui offre un retour au premier plan avec Un + Une, une histoire d'amour passionnée qu'elle partage avec Jean Dujardin. Le début d'année 2017 est particulièrement chargé pour la comédienne : on la retrouve successivement dans des films très différents : le drame historique Un sac de billes, le nouveau Lelouch Chacun sa vie et la comédie populaire À bras ouverts. Privilégiant la comédie, comme ses prestations dans Tout le monde debout, Selfie, Tout nous sourit et Adorables en témoignent, la comédienne appraît aussi dans les drames historiques Je ne rêve que de vous et Anya. Elle retrouve également Lelouch pour La Vertu des impondérables et L'Amour c'est mieux que la vie.

En 2022, Elsa Zylberstein joue dans le film de SF Netflix BigBug de Jean-Pierre Jeunet, ainsi que dans la comédie Champagne ! de Nicolas Vanier, où elle retrouve plusieurs partenaires qu'elle connaît bien, comme François-Xavier Demaison et Stéphane De Groodt. Mais l'année est surtout marquée par sa performance dans Simone, le voyage du siècle, un biopic consacré à l'ancienne ministre Simone Veil. L'actrice, qui a porté le projet durant de nombreuses années, s'est métamorphosée pour rendre hommage à celle qui s'est notamment battue pour l'interruption volontaire de grossesse en France et l'accompagnement des malades du Sida.