Après des études à l'université de Princeton, Mel Ferrer travail d'abord pour un journal local dans le Vermont. Il se tourne très vite vers la scène et participe, dès 1938, en tant que danseur, à deux comédies musicales sur les planches de Broadway. Un temps disc-jockey, il devient producteur pour la chaîne de télévision NBC. Il se tourne rapidement vers le cinéma et réalise un modeste premier film à petit budget, The Girl of the Limberlost (1945). Deux ans plus tard, il est premier assistant de John Ford sur Dieu est mort.

Mel Ferrer entame une carrière d'acteur en 1949 avec Frontières oubliées, laquelle lui apportera une plus grande reconnaissance que son travail de cinéaste. Mel Ferrer débute en tous les cas une carrière prometteuse. Le premier tournant intervient avec La Corrida de la peur en 1951. Repéré par la MGM pour son rôle de matador, Ferrer obtient son premier grand rôle, celui du cruel Marquis de Maynes dans Scaramouche. La même année, en 1952, il tourne sous la direction de Fritz Lang dans L'Ange des maudits. C'est pourtant son rôle aux côtés de Leslie Caron dans la comédie musicale Lili qui fait de lui une star. Les années 50 seront très faste à la carrière de Mel Ferrer. On le retrouve chez Jean Renoir dans Elena et les Hommes, chez Richard Thorpe dans Les Chevaliers de la table ronde, ou auprès d'Ava Gardner dans Le Soleil se lève aussi.

Lors de la première mondiale à Londres de Vacances romaines, Mel Ferrer rencontre Audrey Hepburn, à qui il propose un rôle pour la pièce de théâtre Ondine qu'ils joueront ensemble à Brodway pendant l'hiver 1953-54. Audrey Hepburn tombe enceinte et ils se marient en septembre de l'année 54. Malheureusement pour le couple, l'actrice est victime d'une fausse couche. Hepburn se remet très vite au travail et rejoint son mari sur le casting de Guerre et paix de Vidor. Plus tard, Ferrer mettra son épouse en scène dans le quatrième de ses cinq films, Vertes demeures, en 1959. L'année suivante, Audrey Hepburn met au monde Sean, l'unique enfant du couple. Jeune papa, Ferrer tourne dans Les Mains d'Orlac (1961) puis dans Le Jour le plus long (1962) et La Chute de l'empire romain (1964).

Malgré le prestige de ces quelques films, Ferrer commence, à l'aube des années 60 à enchaîner les tournages de films bis. La tendance va se confirmer après le divorce de Ferrer avec Hepburn, après quatorze années de mariage, en 1968. C'est principalement en Italie que Ferrer décide de poursuivre sa carrière, notamment avec Umberto Lenzi : La Secte des cannibales, L'Avion de l'apocalypse... En 1976, Tobe Hooper lui confie le premier rôle du Crocodile de la mort. Ferrer effectuera ensuite quelques apparitions surprenantes, dans Mille milliards de dollars de Henri Verneuil (1981) ou même chez Fassbinder via Lili Marleen (1982). En 1989, il tourne son dernier long métrage, L'Oeil de la veuve, avant de disparaître de la scène publique.