Soldat en Nouvelle Guinée pendant la Deuxième Guerre Mondiale, Leo McKern débarque en Grande-Bretagne en 1946 et travaille avec la prestigieuse Royal Shakespeare Company. En 1956, il est à l'affiche du film de science-fiction X the unknown produit par la célèbre société de production Hammer, puis du thriller Temps sans pitié de Joseph Losey. Deux ans plus tard, l'acteur tourne aux cotés de Dirk Bogarde dans Le Conte des deux villes.

Passant alternativement du drame à la comédie, Leo McKern croise la route de Peter Sellers en 1960 dans La Souris qui rugissait de Jack Arnold. Un comédien qu'il retrouve derrière la caméra un an plus tard pour Mr. Topaze, avant de jouer les soldats dans Pour l'exemple (1964), drame historique qui lui permet de collaborer à nouveau avec Joseph Losey.

Après avoir accompagné les Beatles dans Au secours ! en 1965, le comédien retrouve les ambiances dramatiques d'Un homme pour l'éternité dans lequel il incarne Cromwell (1966) et de La Fille de Ryan de David Lean (1970). Après un parodique Frère le plus fute de Sherlock Holmes signé Gene Wilder en 1975, Leo McKern bascule dans l'horreur et affronte Damien dans La Malédiction II (1978).

Les dernières apparitions marquantes de l'acteur remontent aux années 80 : on le voit notamment dans Le Lagon Bleu (1980), La Maitresse du lieutenant francais(1981) ou flirter avec l'héroïc fantasy pour Ladyhawke, la femme de la nuit de Richard Donner en 1984.