Fils d'un pâtissier amateur de romans noirs, Olivier Marchal est élève au collège des Jésuites de Bordeaux. C'est durant ces années que naissent chez lui l'envie d'être policier et le goût pour la comédie. Après avoir passé le concours d'inspecteur de police, il intègre en 1980 la Brigade criminelle de Versailles, puis rejoint la section antiterroriste, où il a pour collègue Simon Michaël, l'auteur des Ripoux. Chef d'une brigade de nuit au milieu des années 80, Olivier Marchal suit parallèlement des cours de théâtre au conservatoire du Xème arrondissement.

Apparu une première fois à l'écran en 1988 dans Ne réveillez pas un flic qui dort, il est repéré par une directrice de casting, qui lui propose en 1993 le rôle d'un inspecteur dans Profil bas de Claude Zidi. Ayant définitivement quitté la police, Olivier Marchal écrit plusieurs scénarios pour le Commissaire Moulin, et devient bientôt un personnage récurrent des séries Quai n°1 et Police district. Dans un genre différent, il est remarqué dans le moyen métrage d'Emmanuelle Bercot, La Puce, aux côtés de la jeune Isild Le Besco en 1999. La même année, Olivier Marchal s'essaie à la réalisation avec Un bon flic, court métrage remarqué à Cognac.

Il passe au long en 2002 avec Gangsters, un thriller nourri de son expérience de policier et dont Richard Anconina et Anne Parillaud tiennent les rôles principaux. Deux ans plus tard, il met en scène 36 Quai des Orfèvres, un film à gros budget de nombreuses fois nommé aux César et qui offre un face-à-face de légende entre deux monstres sacrés du cinéma français : Daniel Auteuil et Gérard Depardieu.

Incarnant avec un malin plaisir les malfrats et autres personnages peu recommandables pour Guillaume Canet (Ne le dis à personne, 2006), Frédéric Schoendoerffer (Truands, 2007), et Julien Seri (Scorpion, id.), Olivier Marchal clôt en 2008 sa trilogie policière sur "la solitude, la désespérance et l'errance" avec MR 73, un film noir dans lequel Daniel Auteuil incarne un flic dépressif et alcoolique à la recherche d'un tueur en série.

Créateur de la série Braquo, celle-ci remporte un grand succès pour sa première saison en 2009 et s'arrête avec une quatrième saison en 2016. Entre temps, on peut le retrouver au casting du Fils à Jo aux cotés de Gérard Lanvin, juste avant de diriger ce dernier et de repasser derrière la caméra pour un projet qui lui tenait à cœur depuis longtemps : Les Lyonnais, film s'inspirant de l'histoire des véritables gangsters du gang des lyonnais sévissant en France dans les années 1970.

Après la réalisation du téléfilm Borderline (2015), Olivier Marchal refait équipe avec Benoît Magimel, son partenaire de jeu de Truands, pour le thriller policier Carbone, son cinquième long métrage qu'il réalise pour le grand écran et qui s'inspire de la fraude à la TVA sur les quotas de carbone ayant eu lieu entre 2008 et 2009. En 2020, il réalise pour Netflix Bronx, un pur polar marseillais emmené par Lannick Gautry, Stanislas Merhar, Kaaris et ses fidèles habitués (Alain Figlarz, Francis Renaud, Moussa Maaskri, etc.).

Parallèlement à son activité principale de metteur en scène, Olivier Marchal est actif en tant qu'acteur. Le natif de Gironde incarne ainsi un homme retrouvant son quartier qui a bien changé après 15 années passées en prison dans Un p'tit gars de Ménilmontant (2011) et un patron de boîte de nuit confronté à un redoutable gangster dans Le Jour attendra (2013). Après ces deux films violents, il change de registre en jouant dans les comédies Belle comme la femme d'un autre (2014) et Ibiza (2019) et Papi-Sitter (2020).

Depuis 2018, Olivier Marchal se glisse dans la peau du personnage principal de la série Les Rivières Pourpres, adaptée du best-seller de Jean-Christophe Grangé. Il s'agit du capitaine de police Pierre Niemans enquêtant, aux côtés de sa meilleure élève et fille spirituelle Camille Delaunay, sur des crimes complexes.