Comédien de formation, Hervé Palud est rapidement passé à la réalisation. Une de ses seules apparitions notables à l'écran est son rôle de voyageur, dans le métro, dans Rien ne va plus.

Passant finalement derrière la caméra, il réalise son premier film en 1980 : c'est Du blues plein la tête, co-écrit avec le comédien Niels Arestrup. Son second film, en 1986, marque un premier tournant dans sa carrière. Les Frères Pétard réunit déjà les ingrédients qui feront les succès du réalisateur : la comédie, de grands acteurs, et un goût pour le cinéma populaire.

En 1991, il enchaîne deux projets. Tout d'abord le film à sketches Les Secrets professionnels du Dr Apfelglück, qui réunit quelques uns de ses acteurs fétiches ; et La Gamine, qui associe à l'écran Johnny Hallyday et Jean-François Stévenin.

Cependant, le véritable tournant dans le parcours de Hervé Palud reste Un indien dans la ville. Réalisé en 1994, ce film est l'un des grands succès populaires de l'année. Cette histoire, incarnée par Thierry Lhermitte et par Patrick Timsit, rencontre un tel engouement, qu'un remake (Un Indien à New York) est tourné trois ans plus tard aux Etats-Unis, avec un scénario signé... Hervé Palud.

Quatre ans plus tard, en 1998, le réalisateur est l'initiateur des premiers pas à l'écran de Eric Cantona dans Mookie, dont le succès est resté mitigé. Il attendra cinq ans, jusqu'en 2003, pour réunir Michel Serrault et Christian Clavier, dans une comédie intitulée Albert est méchant.