Fils unique d'un père travaillant dans l'industrie du bâtiment et d'une mère vivant de l'écriture de pièces de théâtre et de livres pour enfants, Rod Taylor manifeste très tôt une réelle sensibilité artistique. Encouragé par sa mère, il étudie au Sydney Technical and Fine Arts College, avant de commencer par gagner sa vie comme dessinateur de publicité pour les journeaux. C'est en venant voir jouer Laurence Olivier, qui effectuait alors une tournée en Australie avec la pièce Richard III de William Shakespeare, que Rod se décide à embrasser une carrière d'acteur. Après avoir étudié un an à la Sydney's Independent Theatre School tout en faisant de petits boulots pour payer ses études, il est découvert par un producteur de théâtre qui l'engage et lui verse son premier cachet d'acteur professionnel pour une pièce de George Bernard Shaw. Il fait également l'acteur à la radio : un travail pour lequel il remporte de nombreux prix. En 1953, il fait ses premiers pas au cinéma dans des films exotiques (King of the Coral Sea) ou encore des films de pirates (Long John Silver, 1954), avant de partir à Hollywood tenter sa chance.

Arrivé aux USA en 1954 et naturalisé en 1956, il entame sa carrière américaine en jouant des rôles de seconds couteaux, comme dans le film noir Hell on Frisco Bay où il donne la réplique à Alan Ladd et Edward G. Robinson; ou des seconds rôles plus consistants comme dans le film fleuve Géant en 1956. En 1960, il perce enfin en obtenant le rôle de George dans le spectaculaire La Machine à explorer le temps. En parallèle, il fait des débuts fracassants sur le petit écran, en obtenant le rôle-titre de la série Hong Kong (1960-1961) : à 3750 $ par épisode, il devient l'un des acteurs les mieux payés de la TV. En 1963, son physique athlétique (il a longtemps pratiqué la boxe) et virile par excellence incite le maître du suspens à lui confier le rôle de Mitch Brenner dans son chef-d'oeuvre Les Oiseaux, dans lequel il tente de protéger la famille et la maison de Tippi Hedren envahit par les volatiles. Loin de ses rôles de durs, il creuse la veine de la comédie romantique avec Sunday in New York, ainsi que deux films aux côtés de Doris Day : Do Not Disturb (1965) et La Blonde défie le F.B.I. (1966). En 1968, il incarne devant la caméra de Jack Cardiff le mercenaire Curry, dans le violent Dernier Train du Katanga, qui se déroule au Congo mais qui a en réalité pour toile de fond la sanglante guerre du Biafra (1966-1970).

Les décennies 70 à 90, voir même jusqu'aux années 2000, sont nettement moins fastes au cinéma pour l'acteur, qui donne plus l'impression de courir le cachet dans des nanars de série Z, que de choisir avec soin ses rôles. Quelques rôles importants se dégagent néanmoins, comme sa participation a Zabriskie Point de Michelangelo Antonioni, ou encore ce que beaucoup considèrent sans doute comme l'un de ses meilleurs films : le film australien The Picture Show Man (1977), dans lequel il incarne un joueur de piano itinérant dans le bush australien, faisant l'accompagnement musical des tous premiers films au début du XXe siècle. C'est surtout sur le petit écran que sa carrière prend un second souffle, en jouant notamment dans des séries à succès comme Falcon Crest. En 2009, à l'âge de 79 ans, celui qui déclarait alors en 1961 "vouloir jouer encore et encore jusqu'à ses 90 ans", est sorti de sa semi-retraite par Quentin Tarantino pour Inglourious Basterds, où il prête ses traits à Winston Churchill.