John Frankenheimer se passionne pour le cinéma à partir de 1951, alors qu'il effectue son service militaire dans les forces aériennes des Etats-Unis. Il y réalise plusieurs documentaires. Démobilisé, il devient assistant metteur en scène de télévision pour la CBS à New York. John Frankenheimer dirige alors plus de 125 épisodes de séries et est considéré comme l'un des fondateurs de l'âge d'or de la télévision américaine.

Influencé par la mise en scène télévisuelle, il passe au cinéma et se fait remarquer en 1957 avec le drame Mon père cet étranger. Le Temps du châtiment (1961) marque sa première collaboration avec l'acteur Burt Lancaster. John Frankenheimer et lui tourneront quatre autres films ensemble : Le Prisonnier d'Alcatraz (1962), un film profondément humaniste sur l'univers pénitentiaire ; Sept jours en mai (1964), se déroulant pendant la fin de la Guerre Froide ; Le Train la même année, qui raconte le sauvetage mouvementé de tableaux volés par les nazis à destination de l'Allemagne ; et Les Parachutistes arrivent, comédie dramatique centrée sur ce fameux sport extrême (1969).

Dès lors, un thème récurrent se dégage de l’œuvre du réalisateur : la transformation de l'homme dans l'adversité. Les très nerveux Un Crime dans la tête (1962) avec Frank Sinatra et Janet Leigh, Sept jours en mai (1964) et L'Opération diabolique (1966) marquent également l'apparition d'un nouveau genre cinématographique baptisé "politique-fiction". Ces deux films ont un retentissement considérable en pleine période de Guerre Froide. Une fois installé en Europe, John Frankenheimer alterne les superproductions spectaculaires (Grand Prix en 1966, Les Cavaliers en 1970) et les œuvres plus intimistes (L'Homme de Kiev en 1968, Le Pays de la violence en 1970). Rencontrant quelques échecs commerciaux dont le plus cuisant reste Les Parachutistes arrivent, le cinéaste trouve un second souffle dans les années soixante-dix avec des films d'action tels que French Connection 2 (1975), tourné à Marseille, et Black Sunday (1977).

Dans les années quatre-vingt et quatre-vingt-dix, John Frankenheimer enchaîne, dans le même registre, des longs métrages d'assez mauvaise facture, se soldant tous par un échec commercial : c'est le cas - et ce malgré leur casting alléchant - d'A armes égales (1982), Paiement cash (1986), L'Année de plomb (1992), L'Ile du docteur Moreau (1996), Ronin (1998) et Piège fatal (2000). En 1994, il réalise tout de même un téléfilm encensé par la critique, La Révolte d'Attica, œuvre engagée et centrée sur le milieu carcéral, un thème qui lui est cher. Chargé de réaliser Exorcist : Dominion en 2002 (prequel de L'Exorciste avec Liam Neeson), John Frankenheimer préfère abandonner le tournage de ce projet afin de se remettre pleinement d'une première opération aux vertèbres. Il succombe à une attaque cérébrale lors d'une seconde intervention chirurgicale le 6 juillet 2002, à l'âge de 72 ans.