Issu d'une famille d'artistes et de parents écrivains, Andreï Mikhalkov-Konchalovsky se destine d'abord à la musique avant d'intégrer la célèbre école cinématographique VGIK où il se lie avec Andrei Tarkovski. Au cours de sa carrière il abandonne le nom Mikhalkov pour se différencier de son frère cadet Nikita Mikhalkov également cinéaste.

Il signe un long métrage en 1965, Le Premier maître dont le sujet, un instituteur chargé d'éduquer des paysans, lui attire la bienveillance du pouvoir soviétique tandis que l'interprète féminine obtient un prix d'interprétation à Venise. Mais son deuxième film, Le Bonheur d'Assia qui présente une vision nuancée des kolkhozes, n'échappe pas à la censure en 1969.

Il renoue avec le succès en 1978 grâce à Sibériade, un film-fleuve qui retrace un siècle de vie quotidienne dans un village sibérien. Cette super-production obtient le Prix spécial du Jury à Cannes en 1979 et assure une réputation internationale à son réalisateur.

Konchalovsky émigre alors aux Etats-Unis où il s'essaye à des genres variés, passant du drame (Maria's Lovers, 1984) à la série B (Tango & Cash, 1989), en passant par le film d'action (A bout de course, 1985). Il revient dans son pays natal à la fin de la guerre froide avec des films sur la Russie contemporaine mais financés grâce à des coproductions (Le Cercle des intimes (1991), Riaba ma poule (1994), La Maison de fous (2002)).