Né au sein d'une famille d'origine italienne, John Saxon (né Carmine Orrico) se passionne très tôt pour la comédie. Après avoir abandonné sa scolarité, il se forme auprès de la célèbre professeur d'art dramatique Stella Adler puis se rend à Hollywood pour y enchaîner les castings (c'est à ce moment qu'il prend le nom de Saxon).

John Saxon trouve son premier rôle au cinéma dans Une femme qui s'affiche (1953) de George Cukor. Non crédité au générique, il incarne un jeune regardant une dispute dans un parc. Il poursuit avec une autre prestation dans un film de Cukor (non créditée elle aussi) : Une étoile est née (1954). Fort de ces deux expériences brèves mais concluantes, le jeune comédien multiplie les rôles, bien souvent aux côtés de metteurs en scène prestigieux. Ainsi, il travaille avec Blake Edwards (Le Démon de midi, 1958), Vincente Minnelli (Qu'est-ce que maman comprend à l'amour ?, id.), John Huston (Le Vent de la plaine, 1960) ou encore Mario Bava (La Fille qui en savait trop, 1963).

John Saxon continue de donner la réplique à de grands comédiens comme Marlon Brando (L'Homme de la Sierra, 1966), Richard Widmark (Une poignée de plombs, 1969) et Clint Eastwood (Joe Kidd, 1972), montrant par la même occasion à quel point le western est un genre qu'il affectionne. Dans Opération dragon (1973), emmené par Bruce Lee, l'acteur se glisse dans la peau d'un combattant chevronné. Un rôle important qui lui permet de montrer ses capacités physiques et qui constitue sans nul doute sa prestation la plus connue.

Parallèlement, John Saxon s'illustre dans différentes séries télévisées, par la biais de personnages plus ou moins récurrents, dont L'homme à la Rolls, Dr. Kildare Bonanza, L'homme de fer, Le Virginien, The Bold Ones: The New Doctors, Les rues de San Francisco, Banacek, Gunsmoke, L'homme qui valait 3 milliards, Once an Eagle, Harold Robbins' 79, Park Avenue et Hawaï, police d'état. Dans les années 1980, ses rôles prennent plus d'importance comme en témoignent ses apparitions dans L'île fantastique, Dynastie et Falcon Crest.

Incarnant souvent des policiers, John Saxon est le lieutenant Kenneth Fuller dans l'horrifique Black Christmas (1974), un film d'épouvante particulièrement glauque. Eternel second rôle malgré son charisme, il joue dans plusieurs films italiens (l’acteur est bilingue de par ses parents, ce qui facilite les choses) comme Opération jaguar (1976), Le Cynique, l'Infâme et le Violent (1977), Pulsions cannibales (1980) et Crime au cimetière étrusque (1982). La plupart du temps, ces longs métrages se rattachent à des genres cinématographiques "modestes".

Habitué aux films d'horreur, John Saxon trouve un rôle important dans le slasher culte Les Griffes de la nuit (1984), de Wes Craven, celui du sergent de police Donald Thompson, père divorcé et alcoolique qui aime beaucoup sa fille Nancy Thompson (l’héroïne du film). Le comédien reprendra ce rôle dans le troisième Freddy : Les Griffes du cauchemar en 1987.

Parmi ses autres prestations marquantes, nous pouvons aussi mentionner celle du Flic de Beverly Hills 3 (1993), troisième volet des aventures d’Axel Foley. Il y campe le méchant Orrin Sanderson, directeur du parc WonderWorld. Se faisant de plus en plus rare au cinéma, John Saxon joue un petit rôle dans le film de vampire culte Une nuit en enfer de Robert Rodriguez, celui de l'agent du FBI Stanley Chase. Par la suite, dans les années 2000, la plupart de ses prestations se limitent à des films inédits chez nous et relativement inconnus du grand public, comme Criminal Minds, Night Class, The Road Home, Old Dogs et The Mercy Man. Toujours actif sur les écrans malgré son âge avance, John Saxon est aussi à l'affiche de la comédie The Extra (2017).