Originaire de Georgie, "patrie" de The Walking Dead, Scott Wilson s'oriente vers des études d'architecture quand sa route croise celle d'un comédien lors d'une soirée arrosée dans un bar. Entraîné dans une troupe, il y trouve sa vocation et multiplie les expériences théâtrales durant la première moitié des années 60. Il fait ses débuts au cinéma au 1967 dans deux films majeurs, Dans la chaleur de la nuit de Norman Jewison et surtout De sang-froid adapté du livre de Truman Capote. Tête d'affiche du long métrage aux côtés de Robert Blake, Scott Wilson fait alors la couverture de Life Magazine, aux côtés de son partenaire à l'écran et du romancier.

Le comédien est ensuite sollicité par les grands réalisateurs du moment, comme Sydney Pollack (Un château en enfer, 1969), John Frankenheimer (Les Parachutistes arrivent, 1969), Robert Aldrich (Pas d'orchidées pour miss Blandish, 1971) ou Richard Fleischer (Les Flics ne dorment pas la nuit, 1972). En 1974, il apparaît dans Gatsby le Magnifique face à Robert Redford, puis s'illustre cinq ans plus tard dans le film d'horreur La Neuvième configuration de William Peter Blatty, qui lui vaut une nomination au Golden Globe du Meilleur second rôle. Scott Wilson retrouvera d'ailleurs le réalisateur et auteur de L'Exorciste sur L'Exorciste: la suite (remonté ensuite dans une version Director's Cut) en 1990.

L'acteur est sollicité au cours des décennies suivantes dans des seconds rôles solides, de L'Etoffe des héros (1983) à Hostiles (2017), en passant par Malone, un tueur en enfer (1987), Johnny Belle Gueule (1989), Young Guns II (1990), Judge Dredd (1995), La Dernière marche (1995), Pearl Harbor (2001), Monster (2003) ou Le Dernier samouraï (2003). Il est également tête d'affiche sur L'Année du soleil calme en 1984, drame de Krzysztof Zanussi salué par le Lion d'Or à Venise.

Egalement très présent à la télévision, Scott Wilson apparaît dans les séries X Files, New York - Police judiciaire ou Les Experts, dans laquelle il campe durant neuf épisodes le père du personnage de Marg Helgenberger. Il obtient la consécration auprès du grand public avec The Walking Dead en 2002 : durant trois saisons, il joue le fermier Hershel Greene, père de Maggie et Beth, qui accueille Rick et ses compagnons dans sa ferme avant de les accompagner vers le refuge (temporaire) que représente le pénitencier local. Scott Wilson joue par la suite des rôles réguliers dans les séries Harry Bosch, Damien et surtout dans la saison 1 de The OA où il incarne Abel Johnson.