Dans les années 20, il est le correspondant du Chicago Times à Berlin. Parallèlement à ses activités journalistiques, il traduit en anglais les inter-titres des films allemands destinés au marché américain. De retour aux Etats-Unis, Herman J. Mankiewicz, son frère, le fait rentrer à la Paramount en la qualité de dialoguiste et scénariste. Puis, il devient producteur à la MGM où il travaille sur Furie (1936) de Fritz Lang et Indiscretions (1940) de George Cukor. En 1946, Il remplace Ernst Lubitsch, qui est tombé malade, sur le tournage du Chateau du Dragon (1946). C'est le début d'une carrière dans la réalisation qu'il poursuit l'année suivante en dirigeant L'Aventure de Mme Muir.

Chaînes conjugales (1949) et Eve (1950), pour lesquels il remporte quatre Oscars comme scénariste et réalisateur, le consacrent. Il se distingue par un style qui abonde de monologues et de flashbacks. Le dialogue chez Mankiewicz est le moteur de l'action, ce qui montre son opposition aux rouages classiques des productions hollywoodiennes de l'époque. Le film La Comtesse aux pieds nus (1954) illustre cette démarche du cinéaste.

Il excelle aussi dans le choix et la direction des acteurs. C'est ainsi qu'il impose le jeune Marlon Brando dans Jules César (1953) ou qu'il offre son premier rôle à Sidney Poitier dans La Porte s'ouvre (1950), un drame sur fond de racisme. Mankiewicz fait preuve d'éclectisme en voyageant à travers tous les registres du 7ème Art. C'est ainsi qu'il explore le film d'espionnage avec L'Affaire Cicéron de 1952, la comédie musicale avec Blanches colombes et vilains messieurs (1955) ou le drame avec Soudain l'été dernier (1958) d'après Tennessee Williams.

En 1960, la Fox l'appelle au secours pour venir à bout de Cléopâtre. Il s'épuisera sur ce projet colossal qui ne verra le jour que trois ans plus tard. Malgré les qualités de ce péplum, le réalisateur le raye de sa filmographie dans la mesure où il n'apparaît pas être l'oeuvre qu'il aurait voulu. Il se contente de réaliser trois films par la suite. Le long-métrage Guêpier pour trois abeilles (1967), qui est une adaptation moderne de Volpone. Puis, il filme Le Reptile, un western qui frôle les sommets de cynisme, et Le Limier avec Laurence Olivier et Michael Caine. Mankiewicz a passé sa vie à bluffer l'industrie hollywoodienne. Plus que des super-productions, ses oeuvres tendaient vers le cinéma d'auteur. Ses opinions politiques lui valurent aussi d'être la cible du maccarthysme.