Après avoir suivi des cours d'art dramatique dans le Massachusetts, Ted Levine entame une carrière sur les planches et parvient à se faire rapidement un nom dans le milieu du théâtre. Dans les années 80, le comédien découvre l'univers de la télévision, dans le rôle récurrent de Frank Holman dans la série Crime Story. Le succès du show lui ouvre finalement les portes du cinéma, où il interprète le personnage de Pacono Pete auprès de Meryl Streep et Jack Nicholson dans La Force du destin (1987) et tourne pour Costa-Gavras dans La Main droite du diable (1988).

Mais le public commence à véritablement mettre un visage sur le nom de Ted Levine lorsqu'il le découvre dans le rôle de "Buffalo Bill", le tueur en série du Silence des agneaux (1990) de Jonathan Demme. C'est la consécration. L'acteur continue à cultiver cette image de meurtrier en tenant tête à Jean-Claude Van Damme dans Cavale sans issue (1993). Par la suite, la carrière de l'acteur change radicalement puisqu'il décide d'incarner principalement des figures d'autorité.

Après une petite apparition en tant que policier dans La Presseuse diabolique (1995) le film d'horreur de Tobe Hooper, l'acteur reste au sein des forces de l'ordre dans Heat (1995), le thriller de Michael Mann. En 1997, il tourne à nouveau sous la direction de Costa-Gavras dans Mad City où il interprète le chef de Dustin Hoffman. Après avoir incarné un député dans La Piste du tueur, il interprète à deux reprises le rôle d'un général : dans le western Wild Wild West (1997) puis dans le film de SF loufoque Evolution (2001). Après une incursion dans les courses automobiles de Fast & furious (2001), l'acteur tourne à nouveau pour Jonathan Demme dans La Vérité sur Charlie (2001).

Ses nombreux seconds rôles en tant que policier, député ou général consuisent Ted Levine à nouveau vers la télévision, puisque l'acteur se voit offrir le rôle récurrent du Capitaine Leland Stottlemeyer dans la série Monk. Il continue parallèlement à tourner pour le cinéma : après un petit rôle dans Birth (2003), le comédien incarne ensuite un colonel dans Un Crime dans la tête (2003) (sur lequel il retrouve son cinéaste fétiche Jonathan Demme) puis dans le drame flamboyant Mémoires d'une geisha (2005). En 2005, Alexandre Aja lui offre le rôle d'un policier... à la retraite, victime d'une famille cannibale dans La Colline a des yeux, remake sang pour sang choc du film de Wes Craven.

Variant les genres, Ted Levine poursuit avec le western (L'Assassinat de Jesse James par le lâche Robert Ford), le film de gangsters (American Gangster), le thriller (Shutter Island), l'action (Big Game), le biopic sur le coriace boxeur Vinny Pazienza (K.O. - Bleed for This) et le blockbuster (Jurassic World: Fallen Kingdom). Il goûte aussi aux joies du petit écran comme par exemple avec la série policière centrée sur la traque d'un tueur en série The Bridge où il campe un personnage régulier.