Fils d'une laborantine d'origine yougoslave et d'un Russe qui fonda une entreprise de chaudronnerie mécanique, Serge Riaboukine nourrit très tôt une passion pour le théâtre et le cinéma. Elève de Vitez au Conservatoire, il apparaît à l'écran en 1979 (Les Phallocrates). On l'aperçoit chez Lelouch (Viva la vie) ou Assayas (L' Enfant de l'hiver), mais c'est sur scène que le comédien se fait connaître, grâce à des one man shows.

En 1993, Serge Riaboukine trouve son premier grand rôle dans Le Mari de Leon de Jean-Pierre Mocky. Figure familière des chroniques chaleureuses de Manuel Poirier (A la campagne, 1995), il est le compagnon de route d'un autre jeune cinéaste, Pierre Salvadori, qui le fait tourner dans ses brillantes comédies (Comme elle respire), mais lui offre aussi le rôle d'un patron de bar dans son polar Les Marchands de sable (2000).

Acteur charismatique, à la carrure imposante et au verbe haut -ce qui lui vaut d'être régulièrement comparé à Gérard Depardieu-, Serge Riaboukine décroche en 1999 le Léopard de Bronze à Locarno pour sa stupéfiante composition de père de famille brutal dans Peau d'homme, coeur de bete d'Hélène Angel.

S'il ne dédaigne pas un cinéma plus commercial (La Tour Montparnasse infernale, Les Rivières pourpres 2), Riaboukine trouve ses rôles les plus marquants dans des films d'auteurs : paysan fruste pour Dubroux (L' Examen de minuit), ce comédien qui sait allier loufoquerie et sensibilité, interprète dans Une femme d'exterieur (2000) le mari désemparé d'Agnès Jaoui, une actrice qui le dirigera en 2004 dans Comme une image.

Il est le père de Marilou Berry l'année suivante dans le film qui la révèle, La Première fois que j'ai eu 20 ans ; avant d'apparaître dans le remake du film de Renoir par Gérard Jugnot, Boudu, où il retrouve Gégé Depardieu, marquant ainsi une nouvelle fois sa capacité d'alterner les genres.

Luc Besson le choisit pour accompagner les débuts du film noir (et blanc) de Jamel Debbouze dans Angel-A mais c'est la télévision qui l'occupe principalement et il y campe des rôles plus importants comme dans La Chasse à l'homme (Mesrine), Monsieur Joseph (2007) ou La maîtresse du Président (2009), une sélection qui définit d'ailleurs son goût reconnu pour les polars noirs et/ou politiques. Penchant que l'on retrouve avec son rôle dans Simon Werner a disparu…, en 2010, où il accompagne des lycéens qui disparaissent sans explications, dans un climat tendu...