Après des études de lettres à Lille, Michel Duchaussoy entre au Conservatoire puis intègre la Comédie Française en 1964. Il apparaît pour la première fois au cinéma en 1967 dans Jeu de massacre d'Alain Jessua, un cinéaste à l'univers étrange qu'il retrouvera pour Traitement de choc (1972) et Armaguedon (1976).

A la fin des années 60, Michel Duchaussoy entame une fructueuse collaboration avec Claude Chabrol, qui offre à ce grand acteur de théâtre quelques-uns de ses rôles les plus marquants à l'écran. Officier de police dans La Femme infidèle en 1968, il est un père assoiffé de vengeance dans Que la bête meure (1969), face à Jean Yanne en criminel odieux. Apparaissant dans les œuvres les plus noires du maître de la Nouvelle vague, il figure au générique de La Rupture, de Juste avant la nuit, et du thriller politique Nada en 1974. Trente ans plus tard, l'acteur campera un clochard rigolard dans La Demoiselle d'honneur.

Second rôle majeur, Duchaussoy tourne à partir des années 70 sous la direction de Vadim, Yves Robert, Paul Vecchiali, Bertrand Tavernier (La Vie et rien d'autre) ou encore Louis Malle (Milou en mai en 1989). Comédien élégant au jeu tout en nuances, il prend part à plusieurs films d'époque, de Fort Saganne de Corneau (qu'il retrouvera en 1986 pour Le Môme) à Amen de Costa-Gavras en passant par La Veuve de Saint-Pierre de Patrice Leconte - un cinéaste qui le dirigera de nouveau dans Confidences trop intimes en 2003.

A partir des années 2000, il partage son temps entre le cinéma et la télévision, en jouant dans des séries comme Femmes de Loi et Maigret, tout en apparaissant dans Le Petit Poucet d'Olivier Dahan. L'année suivante, il joue dans Bienvenue chez les Rozes de Francis Palluau et dans Tristan de Philippe Harel. Prêtre dans l'austère Lise et André, VRP dans le loufoque Les Portes de la gloire, il incarne le père, à l'apparence faussement bonhomme, de José Garcia, dans La Boîte noire (2005).

Luc Besson lui permet d'innover en doublant un personnage de la saga Arthur et les Minimoys, avant que le comédien ne bifurque vers le film de gangster avec le biopic Mesrine (2008) de Jean-Francois Richet. Ce dernier lui confie le rôle du père de Jacques Mesrine, le légendaire truand campé par Vincent Cassel. L'année suivante est très remplie pour l'acteur, qui apparait en tant que directeur dans Le Petit Nicolas de Laurent Tirard, puis dans Persécution de Patrice Chéreau et dans Mères et filles de Julie Lopes-Curval. Vingt-six ans après leur rencontre sur le plateau de Fort Saganne, il retrouve ensuite Sophie Marceau dans la comédie romantique de Yann Samuell, L'Age de raison (2010).

Après avoir participé à Elle s'appelait Sarah de Gilles Paquet-Brenner (2011), il offre sa dernière prestation au cinéma en incarnant Abraracourcix, le chef du plus célèbre des villages gaulois dans Astérix et Obélix: Au service de sa Majesté de Laurent Tirard. L'acteur décède d'une crise cardiaque en mars 2012, avant la sortie en salles de ce dernier film.