Né sous le nom de Zacharius Knight Galifianakis, Zach grandit auprès de son père, Harry Galifianakis, et de sa mère Mary Frances. D'origine grecque, il est élevé selon les préceptes de la religion orthodoxe.

Après avoir échoué à ses examens de fin d'études, Zach Galifianakis (d'origine grecque) quitte sa Caroline du Nord natale pour New York où il se destine à la comédie. Il commence sa carrière en 1996 à la télévision où il interprète le rôle récurrent de Billy dans la sitcom Boston Common. Il se tourne alors vers le cinéma et décroche ses premiers rôles dans les comédies The King and Me (1999) et Flushed (id.), avant d'enchaîner les petites apparitions dans Beautés empoisonnées (2001) où Sigourney Weaver tient la vedette, Bubble Boy (id.), Corky Romano (id.), ou encore Snow, sex & sun (id.), autant de films restés inédits en France.

En 2002, il fait un détour par le thriller horrifique et embarque dans le voyage sous-marin des Abîmes, co-écrit par Darren Aronofsky. La célébrité tardant à venir, il incarne un des personnages récurrents de la série fantastique Tru Calling : compte à rebours et de la série humoristique Dog Bites Man, tout en continuant d'évoluer dans un cinéma underground. En 2007, il fait une incursion dans le registre dramatique et croise la route d'Emile Hirsch dans Into the Wild de Sean Penn.

Mais sa bonhommie naturelle le prédispose à la comédie: il est ainsi l'un des joyeux lurons de Jackpot (2008), aux côtés de Cameron Diaz et d'Ashton Kutcher, avant de camper un employé de bureau en proie au stress dans Visioneers (inédit en France). Il doit sa popularité naissante à la comédie déjantée Very Bad Trip (2009), succès surprise du box-office, dans lequel des amis, partis enterrer la vie de garçon d'un des leurs à Las Vegas, se voient confrontés le lendemain à leurs folies alcoolisées de la veille.

Fort de cette percée inattendue, Galifianakis joue dans le film d'aventures pour enfants Mission-G (2009), et fait une apparition dans In the Air (id.) de Jason Reitman. En 2010, il campe le beau-père un brin escroc et menteur de Michael Cera dans la comédie adolescente Be Bad ! et apparaît dans The Dinner, remake du Dîner de cons. Très prolifique, il retrouve le réalisateur Todd Phillips à l'occasion de Date limite, dans lequel il met à rude épreuve les nerfs de Robert Downey Jr., avant de rejoindre ses comparses adeptes de "very bad trip" dans le deuxième opus de la fameuse comédie déjantée. Parallèlement, l'acteur tient l'un des rôles principaux de la série Bored To Death aux côtés de Jason Schwartzman.

A l'aise avec le doublage, l'acteur fait un détour par la télévision pour la série politiquement incorrecte American Dad! avant de prêter sa voix en tant que second rôle du Chat Potté pour les studios Dreamworks. Il rejoint également le fleuron de la comédie américaine dans Les Muppets, le retour et Muppets most wanted, puis conclut la trilogie alcoolisée Very Bad Trip en 2013.

Le comédien prouve en 2015 que son talent dramatique est à la hauteur de son humour grâce à Birdman dans lequel il donne la réplique à un Michael Keaton habité par son rôle. Le film repart avec l'oscar du meilleur film, meilleur réalisateur et du meilleur scénario original. La même année, Zach joue les grosses têtes dans la comédie de l'été Les Cerveaux.