Descendant de huguenots français chassés de leur pays par la révocation de l'Édit de Nantes, Mathieu Carrière est né à Hanovre en 1950. Il débute sa carrière très jeune à l'âge de 14 ans dans l'adaptation d'un roman de Thomas Mann, Tonio Kröger. En même temps que ses études de mathématiques, de philosophie et de littérature, il commence à enchainer les tournages. A partir de 1971, installé en France, avec malgré tout quelques séjours outre-Rhin, Mathieu Carrière voit son talent, d'abord révélé à Cannes en 1966 avec Les Desarrois de l'eleve Toerless de Volker Schlöndorff, puis confirmé par la suite grâce à ses deux premiers essais français (La Maison des Bories de Doniol-Valcroze et Le petit matin de Jean-Gabriel Albicocco) reconnu par un grand nombre de cinéastes.

Polyglotte, exigeant et rigoureux, il tourne à travers l'Europe et impose peu à peu son physique distingué, à l'élégance presque glacée qui s'adapte à l'univers de réalisateurs tels que Wajda dans La croisade maudite ou Delvaux dans Rendez-vous a Bray puis Benvenuta en 1983. Il joue également aux côtés d' Orson Welles dans Malpertuis puis tient un petit rôle sous la direction de Dmytryk dans Barbe-Bleue en 1972.

En 1973, il tourne sous la direction de Roger Vadim dans Don Juan 73 aux côtés de Brigitte Bardot. Ses apparitions à l'écran sont de plus en plus fréquentes, tant sur le grand que sur le petit. Il joue en effet dans de nombreuses séries pour les chaînes françaises et allemandes. (Derrick). Après sa prestation dans India Song de Marguerite Duras, il décroche un rôle dans Police Python 357 d'Alain Corneau, une performance qui lui permet d'acquérir une certaine notoriété en France.

Acteur prolifique, les années 80 sont pour lui l'occasion de donner à sa carrière un nouvel essor. Son visage de séducteur suscite l'intérêt de réalisateurs comme Rohmer qui l'engage pour La Femme de l'aviateur. Grand et maigre, son physique atypique lui permet d'incarner un très convaincant Egon Shiele dans Egon Schiele, enfer et passion d'Herbert Vesely. C'est certainement La Passante du Sans-Souci de Rouffio qui lui offre son plus grand rôle en France. En 1989, il s'essaie à la mise en scène avec L' Eveil du démon qui sera sélectionné dans la catégorie "Un certain regard" à Cannes la même année. Dans Malina en 1991, il donne la réplique à Isabelle Huppert avant de tourner dans le film américain Une lueur dans la nuit où il incarne un officier allemand aux côtés des stars hollywoodiennes Melanie Griffith et Michael Douglas. Dans les années 90, il se consacre plus particulièrement à sa carrière en Allemagne, et il faut attendre 2004 et Arsène Lupin pour le voir revenir dans un film français d'envergure.