Né deux ans après la fin de la Seconde Guerre mondiale, André Cyprien Marcon grandit à Saint-Étienne. Très vite, il se tourne vers une carrière d’acteur et, à dix-neuf ans seulement, il monte sur scène pour la première fois dans Le Revizor de Nicolas Gogol à la Comédie de Saint-Étienne.
Jusqu’au milieu des années 1970, il enchaîne les pièces classiques et contemporaines et tourne partout en France. En 1976, il est repéré par René Féret qui lui donne un petit rôle dans La Communion Solennelle. C’est le début d’une carrière prolifique au cinéma, où il tourne pour Bertrand Tavernier (Des enfants gâtés, 1977), Coline Serreau (Pourquoi Pas ! 1977), Michel Deville (Le Voyage en douce, 1980) et bien sûr Jacques Rivette, avec qui il collabore trois fois.
S’il démarre véritablement son parcours à la télévision au début des années 2000, André Marcon reste très prolifique au théâtre, son premier amour, et remporte même le Prix du Syndicat de la critique pour son rôle dans Baal de Bertold Brecht.
Durant les années 1980 et 1990, il poursuit ses apparitions à l’écran, multipliant les seconds rôles dans des films remarqués comme Itinéraire Bis (1983), Personne ne m’aime (1994) ou Voleur de Vie (1998). La même année, il fait la rencontre d’Olivier Assayas, qui l’intègre successivement au casting de Fin août, début septembre, puis des Destinées Sentimentales (2000). Il y partage d’ailleurs l’affiche avec son épouse, Dominique Raymond. André Marcon retrouve le cinéaste plusieurs années plus tard, sur le petit écran cette fois, dans Carlos, en 2010.
Une décennie prolifique pour l’acteur, puisqu’il se fait véritablement une place tant à la télévision, avec des téléfilms comme Goldman (2011), Pasteur (2011) — où il décroche le rôle-titre — et Crime d’état (2013) qu’au cinéma.
En 2016, pour son incarnation de Georges Dumont dans Marguerite de Xavier Giannoli, il obtient une nomination au César du Meilleur second rôle. Campant avec brio les personnages historiques, il joue Émile Zola dans J’accuse de Polanski, un célèbre baron dans Les Illusions perdues où il retrouve Giannoli (2021), un psychiatre du XIXe siècle dans Le Bal des Folles de Mélanie Laurent (2021) et même Claude Monet dans Bonnard, Pierre et Marthe.
Si on a pu le voir sur scène dans la pièce de Yasmina Reza en 2023 James Brown mettait des bigoudis, il a retrouvé une fois encore Xavier Giannoli dans D’argent et de sang la même année à la télévision.
En 2025, André Marcon renoue une nouvelle fois avec le film historique dans L’Affaire de l’esclave Furcy d’Abd al Malik, sur un esclave à l’Île de la Réunion au XIXe siècle et qui sort prochainement en salles.