Fils d'émigrés russes juifs, Mike Nichols passe sa jeunesse à New York. Ses études à Chicago l'amènent à rencontrer Elaine May, avec qui il crée, en 1957, le célèbre duo comique Nichols et May. Lorsqu'ils se séparent en 1961, Nichols persévère avec succès dans le théâtre, principalement dans la mise en scène.

En 1966, Mike Nichols signe son premier long-métrage, le thriller Qui a peur de Virginia Woolf ?, qui offre à Elizabeth Taylor l'Oscar de la Meilleure actrice. L'année suivante, il confirme son talent précoce de metteur en scène avec Le Laureat, nouveau succès public qui permet à son auteur d'obtenir l'Oscar du Meilleur réalisateur et à Dustin Hoffman d'être propulsé au rang de star.

Après ces débuts fracassants, le cinéaste peine à confirmer. Dans les années 70, le thriller Le Jour du dauphin ou les comédies Catch 22, Ce plaisir qu'on dit charnel et La Bonne fortune rencontrent un accueil modeste, mais les deux derniers films cités lui permettent de débuter sa collaboration avec Jack Nicholson, qui deviendra l'un de ses acteurs fétiches.

Après huit ans de silence cinéma, Mike Nichols revient fort. En 1983, l'étouffant Le Mystère Silkwood, avec Meryl Streep, le relance. Il enchaîne avec La Brûlure puis retrouve le succès public en 1986 avec Working Girl, où la turbulente ascension professionnelle vécue par Melanie Griffith.

Relancé, Mike Nichols aborde ensuite tous les genres. Il réalise le drame A propos d'Henry (1991), avec Harrison Ford (et un caméo de... J.J. Abrams, scénariste du film !), puis le film fantastique Wolf (1994). Mais il sait aussi se lancer dans la comédie pure avec The Birdcage (1996), remake de La Cage aux folles, ou tenter une satire politique avec un Primary Colors (1999) sorti en pleine "affaire Lewinsky".

En 2004, il signe le sulfureux Closer, entre adultes consentants, avec Natalie Portman, Jude Law et Julia Roberts puis renoue en 2008 avec la satire politique, signant La Guerre selon Charlie Wilson dans lequel Tom Hanks incarne l'excentrique politicien éponyme.