Après une formation d'art dramatique, Jean-Pierre Castaldi commence sa carrière au théâtre, où il joue notamment sous la direction de Sacha Guitry. Mais c'est surtout grâce à la télévision, notamment la série Les Enquêtes du commissaire Maigret (1967), qu'il acquiert sa renommée. Après des rôles de figuration dans Angélique, marquise des anges ou Ho! avec Jean-Paul Belmondo, il fait ses vrais premiers pas au cinéma avec L'Arbre de Noël de Terence Young (1969).

D'abord attiré par le registre dramatique (L'Affaire Dominici, 1972; La Race des seigneurs, 1974), cette véritable "gueule" impose plutôt son physique massif dans des comédies (Pour cent briques t'as plus rien..., 1982 ; Promotion canapé, 1990) et des films policiers (French Connection 2, 1975).

Il suit une carrière atypique, pouvant aussi bien s'illustrer dans un épisode de la saga James Bond (Moonraker, 1979) qu'entretenir une collaboration fructueuse avec le réalisateur populaire Claude Zidi (Ripoux contre ripoux, 1989; Profil bas, 1993; Astérix et Obélix contre César, 1998).

Au fil des ans, Jean-Pierre Castaldi emprunte une voie plus légère. Concessionnaire automobile dans Ma femme... s'appelle Maurice (2002), il est en 2005 au générique du film choral Travaux, on sait quand ça commence... de Brigitte Roüan et, dans un tout autre registre, l'une des vedettes du programme de télé-réalité Première Compagnie.

Il retourne à l'univers d'un célèbre petit Gaulois avec Astérix aux Jeux Olympiques (2008), et participe au Marocain à Paris de Saïd Naciri (2012) et au Casse des casses de Florian Hessique (2014).

En parallèle de cette carrière à l'écran, Jean-Pierre Castaldi est infatigable sur les planches, souvent en tournée dans toute la France avec des pièces comme Monte Cristo (1987), L'Hôtel du libre échange (1995), Quelle famille ! (2018-2020), Les Beaux-pères (2021-2024), Les Grands Ducs (2025).