Après l'école et l'université, Scott Glenn passe trois ans dans les Marines où il travaille 5 mois comme reporter criminel pour le Kenosha Daily Tribune. En 1966, il rejoint la classe d'acteurs de George Morrison à New York. Enfin, c'est en 1968 qu'il intègre le fameux Actors studio.
Il obtient son premier rôle au cinéma dans The Baby Maker de James Bridges. Scott Glenn emménage donc à Los Angeles, ville qu'il n'apprécie pas du tout. Malgré sa présence dans des films majeurs, tels que Nashville de Robert Altman, mais encore le mythique Apocalypse Now de Francis Ford Coppola, sa carrière ne décolle pas. Lassé de la Californie, il se retire avec sa famille dans l'Idaho, où il travaille comme barman.
Deux ans plus tard, en 1980, James Bridges fait de nouveau appel à lui pour Urban Cowboy, drame dans lequel il interprète le rival de John Travolta. Grâce à ce film, Scott Glenn obtient la reconnaissance du public et de sa profession.
Dès lors, sa carrière lancée, il enchaîne les tournages. Fort de ses habiletés artistiques, il peut apparaître dans tous les genres cinématographiques : le film d'épouvante avec La Forteresse noire, troisième film de Michael Mann, le western Silverado aux côtés de Kevin Costner, ou bien dans des drames comme L'Etoffe des héros et La Rivière.
En 1987, le réalisateur français Elie Chouraqui fait de Scott Glenn la vedette de son film Man on Fire, drame franco-italien. Dans les années 90, on le retrouve à l'affiche de films cultes, tels que Le Silence des agneaux de Jonathan Demme, ou A la poursuite d'Octobre rouge, en 1991. Il rejoue sous la direction de Robert Altman, dans The Player, et continue d'apparaître dans des films à gros budgets (Les Pleins Pouvoirs de Clint Eastwood, et Vertical Limit de Martin Campbell).
Souvent abonné aux seconds rôles, Scott Glenn a tout de même côtoyé les grands du cinéma américain, tels que Sofia Coppola pour Virgin Suicides, Hilary Swank dans Ecrire pour exister et Matt Damon dans La Vengeance dans la peau. Il rejoint, en 2008, le casting du très prometteur W. - L'improbable Président de Oliver Stone, biopic sur l'ascension de Georges W. Bush, aux côtés de Josh Brolin, dans lequel il interprète Donald Rumsfeld, secrétaire à la défense des Etats- Unis de 2001 à 2006.
On le retrouve quelques années plus tard dans Sucker Punch de Zack Snyder (2011) puis Paperboy (2012). En 2015, un nouveau public le découvre lorsqu'il sert de mentor au personnage de Daredevil dans l'univers Marvel. En parallèle, Glenn apparaît aussi dans The Leftovers, The Defenders et Castle Rock.
Après une absence entre 2020 et 2023, il revient sur les écrans dans la saison 3 de The White Lotus, puis dans Greenland Migration (2026), suite de Greenland - Le dernier refuge sorti en 2020.