Originaire du quartier new-yorkais du Bronx, Chazz Palminteri débute sa carrière d'acteur au début des années 80 dans les théâtres de New York. En 1984, il débute sur le grand écran dans Home free all de Steward Bird, où il tient le rôle d'un pirate de la route.

En 1986, il s'installe à Los Angeles et apparaît dans des séries télévisées telles que Hill Street blues ou Dallas. Déjà, les origines italiennes de l'acteur et son physique typé lui réservent les rôles de gangsters ou de membre de la mafia. Parallèlement à ses activités télévisuelles, Chazz Palminteri développe le scénario de la pièce A Bronx tale, dont il incarne lui même les 35 personnages. Présenté à Los Angeles, la pièce rencontre un important succès critique et publique.

En 1991, l'acteur repasse devant la caméra, avec la comédie Oscar de John Landis. Un an plus tard, il retrouve John Landis et les rôles de mafioso dans la comédie horrifique Innocent Blood. En 1993, il confie la réalisation de son Il était une fois le Bronx au néophyte Robert De Niro et se réserve l'un des premiers rôles du film. Un an plus tard, le comédien connaît la consécration avec Coups de feu sur Broadway de Woody Allen. Son rôle de mafieux dramaturge lui vaut une nomination à l'Oscar du Meilleur second rôle, une autre au Screen Actors guild awards, ainsi que le Prix du Meilleur second rôle masculin des Independent Spirit awards 1995.

Toujours en 1995, l'acteur apparaît dans Jade de William Friedkin, puis passe pour une fois de l'autre côté de la loi en incarnant l'agent Dave Kujan dans Usual suspects de Bryan Singer. Suspense toujours avec Diabolique de Jeremiah Chechik où il côtoie Isabelle Adjani, puis avec Les Hommes de l'ombre de Lee Tamahori.

Changement de registre en 1999 avec Mafia blues d'Harold Ramis, pour lequel Chazz Palminteri incarne encore un parrain de la mafia, mais cette fois pour rire. Une voie comique que le comédien poursuit en prêtant sa voix dans Stuart Little (1999), puis en accompagnant Chris Rock dans la comédie Les Pieds sur terre.