D'abord orienté vers une carrière d'ingénieur, Judd Hirsch se tourne finalement vers la comédie. Après des débuts discrets au cinéma en 1971 dans Jump, il enchaîne les rôles à la télévision, dans des téléfilms et des séries comme Medical Story, Delvecchio et Rhoda. La série maintes fois récompensée Taxi le révèle en 1978 au grand public. Pendant 5 saisons, il fait partie d'une équipe de chauffeurs de taxi qui rêvent d'une vie plus palpitante, aux côtés notamment de Tony Danza et Danny DeVito.

En 1988, il devient le héros de sa propre série, Dear John, où son personnage passe quatre années à se remettre du départ de sa femme, qui l'a quitté pour son meilleur ami. Il partage le rôle principal de l'unique saison de George & Leo en 1997 avec Bob Newhart, puis multiplie les apparitions à la télé dans des séries comme Philly, New York Unité Spéciale et Street Time, avant de retrouver un rôle régulier dans Numb3rs (2005). Il y incarne le père d'un agent du FBI (Rob Morrow) et d'un génie en mathématiques (David Krumholtz). On le retrouve ensuite au casting des deux dernières saisons de Damages, face à Glenn Close et Rose Byrne et la série indépendante Maron, du nom de son créateur.

Également présent sur le grand écran, Judd Hirsch apparaît dans King of the Gypsies (1978), puis sous la direction de Robert Redford dans Des gens comme les autres (1980). Après Teachers en 1984, il joue aux côtés de Christopher Reeve dans La Grande évasion 2 (1988), suite télévisée du célèbre film de 1963, et surtout dans le magnifique À bout de course de Sidney Lumet, dans lequel il incarne le père en fuite de River Phoenix. En 1996, il donne des conseils avisés à Jeff Goldblum pour sauver le monde dans la super-production de Roland Emmerich, Independence Day. L'acteur choisit ses rôles au cinéma avec parcimonie : on le retrouve ainsi au casting d'Un homme d'exception de Ron Howard, dans This Must Be The Place de Paolo Sorrentino et prend part au Casse du siècle, emmené par Ben Stiller.