Né au Canada, Martin Short obtient un diplôme en travail social de l'Université McMaster de Hamilton, puis s'installe à Toronto, où il décroche un rôle dans une production de Godspell. En 1977, il se joint à l'équipe de Second City, une troupe d'humoristes, et avec certains de ses membres (dont John Candy, Eugene Levy et Dave Thomas) il se produit à la télévision dans le cadre de l'émission SCTV.

Il débute sa carrière par des publicités au Canada, puis tourne dans de nombreux téléfilms. En 1984, il devient membre de l'équipe de Saturday Night Live, et accède à la notoriété en 1987 grâce à son rôle de Jack Putter, brave caissier de supermarché souffrant de surmenage dans L'Aventure intérieure. Sa carrière cinématographique cependant ne décolle pas. On le retrouve en 1991 dans Le Père de la mariée, où il incarne un planificateur de mariage à l'accent pratiquement incompréhensible, rôle qu'il reprendra quatre ans plus tard dans Le Père de la mariée 2. Au cours des années 90, il figure au casting de grosses productions hollywoodiennes tels que Mars Attacks en 1996, Un Indien à New York l'année suivante et prête sa voix à un personnage du film d'animation Le Prince d'Egypte en 1998.

Au cours des années 2000, il donne la réplique à Tim Allen dans The Santa Clause 3 : The Escape Clause et rejoint Nick Nolte et Mary-Louise Parker au casting des Chroniques de Spiderwick. L'acteur continue de prêter sa voix pour des films d'animation tels que Madagascar 3, Bons baisers d'Europe et Frankenweenie. Parrallèlement, Martin Short apparaît dans des séries télévisés telles que Primetime Glick, Damages, Weeds (où il retrouve l'actrice Mary-Louise Parker) et Mulaney. En 2015, le comédien rejoint le prestigieux casting du nouveau film de Paul Thomas Anderson : Inherent Vice.