Né d'un père américain et d'une mère anglaise, Paul Rudd obtient un diplôme de théâtre de l'Université du Kansas avant d'étudier à Los Angeles au sein de l'American Academy of Dramatic Arts/West. Après avoir beaucoup joué sur scène, il se révèle au grand public en 1993 dans la série télévisée Les Soeurs Reed, où il tient un rôle récurrent.

C'est en 1995 que Paul Rudd débute véritablement sur grand écran. Des débuts variés, puisqu'il apparaît successivement dans le film d'horreur Halloween 6 et le teen movie Clueless, avant de jouer dans le Romeo + Juliette de Baz Luhrmann, aux côtés de Leonardo DiCaprio et Claire Danes. En 1998, il décroche son premier grand rôle avec la romance L'Objet de mon affection, où il donne la réplique à Jennifer Aniston, et tourne ensuite sous la direction de Lasse Hallström dans L'Œuvre de Dieu, la part du diable.

À partir de 2001, Paul Rudd se spécialise dans la comédie. Bien connu des fans de la série Friends, où il campe Mike, le mari de Phoebe, il est également au casting de Wet Hot American Summer et du carton La Nuit au musée.

Membre de la "famille" du réalisateur/scénariste/producteur Judd Apatow, il apparaît ainsi dans Présentateur vedette : la légende de Ron Burgundy (2004), 40 ans, toujours puceau (2005), En cloque, mode d'emploi (2007), Sans Sarah rien ne va ! (2008) ou encore I Love You, Man (2009), L'An 1 (id.) et This is 40 (2012). La même année, il est à l'affiche de la comédie Les Grands frères, film dont il co-signe le scénario.

Après s'être essayé au doublage avec le film d'animation Monstres contre Aliens (2009), Paul Rudd reprend le rôle de Thierry Lhermitte dans le remake américain du Dîner de cons (The Dinner), et campe l'année suivante le fils de Jack Nicholson dans Comment savoir, une comédie romantique de James L. Brooks venant compléter son riche palmarès.

Tout en continuant à multiplier les comédies, dont certaines lui permettent de retrouver d'autres acteurs de l'écurie Apatow, comme la suite de Présentateur vedette, Légendes vivantes, et la comédie apocalyptique C'est la fin, Paul Rudd s'illustre dans une veine plus indépendante du cinéma américain.

Ainsi, il joue dans le récit initiatique Le Monde de Charlie et la comédie dramatique Prince of Texas où il forme un tandem atypique avec Emile Hirsch. L'acteur tourne également pour la télévision en participant à plusieurs épisodes de la série humoristique Burning Love, qui parodie Le Bachelor et sera adapté en France avec La Flamme. Les téléspectateurs peuvent aussi le voir dans Parks and Recreation (2012-2015), Wet Hot American Summer: First Day of Camp (2015) et sa suite, Wet Hot American Summer: Ten Years Later (2017).

En 2015, Paul Rudd s'essaie à un genre qu'il n'avait jusque-là pas encore exploré, à savoir le blockbuster en jouant un super-héros dans la nouvelle production des studios Marvel Ant-Man de Peyton Reed. Compte tenu du succès du film, le comédien reprend son personnage dans Captain America: Civil War, Ant-Man et la Guêpe, Avengers: Endgame et Ant-Man et la Guêpe : Quantumania.

Parallèlement à son travail sur la franchise du MCU, le natif de Passaic joue dans l'émouvant road movie The Fundamentals of Caring (2016) aux côtés de Selena Gomez ; donne de la voix dans le potache Sausage Party ; est confronté à son double dans la série Netflix Living with Yourself (2019) ; et a affaire à un psychiatre manipulateur dans The Shrink Next Door (2021). Depuis 2022, il est au générique de la série policière Only Murders in the Building, face à Steve Martin et Martin Short.

Paul Rudd rejoint en 2021 la franchise culte S.O.S. Fantômes, avec L'Héritage puis La Menace de glace trois ans plus tard. Il côtoie les stars des films originaux, à savoir Bill Murray, Dan Aykroyd et Ernie Hudson. En 2025, il donne la réplique à Jenna Ortega dans la comédie noire déjantée Death of a Unicorn, et s'envole avec Jack Black pour l'Amazonie dans le but de réaliser le remake d'Anaconda. Mais la présence d'un véritable serpent géant va considérablement mettre à mal leur rêve.