Diplômé de littérature anglaise à l'Université de Yale, David Duchovny prépare ensuite un doctorat de philosophie afin de poursuive une carrière d'enseignant. Pendant ses études, il se rend régulièrement à New York pour prendre des cours d'art dramatique et apparaît vite dans des pièces off-Broadway. C'est en 1987 qu'il abandonne Yale au cours du cycle universitaire, afin de se consacrer pleinement à la comédie.

L'année suivante, l'acteur fait sa première apparition cinématographique dans la comédie Working Girl de Mike Nichols, mais c'est le rôle d'un détective travesti dans la série télévisée Twin Peaks qui permet à David Duchovny de se faire connaître : la critique professionelle l'encense dans le drame The Rapture et le public américain le remarque dans le rôle du méchant Brad dans la comédie populaire Beethoven en 1992.

C'est en 1993 que David Duchovny devient mondialement célèbre grâce au personnage du sombre et mystérieux agent Fox Mulder dans la série X-Files : Aux frontières du réel, rôle qu'il reprend en 1998 dans l'adaptation cinématographique The X Files, le film de Rob Bowman, aux côtés de Gillian Anderson. Ce succès au box-office a permis à l'acteur de voir son nom associé à d'importants projets, comme pour la comédie Evolution d'Ivan Reitman en 2001 ou le film expérimental de Steven Soderbergh, Full frontal, en 2002. Deux ans plus tard, il présente son premier long métrage en tant que réalisateur et scénariste, Le Prince de Greenwich Village. Il rejoint ensuite Julianne Moore, sa partenanire pour la deuxième fois, sur le tournage de Trust the Man.

En 2007, David Duchovny revient aux séries avec l'irrévérencieux Californication, qu'il produit et dont il tient le rôle principal, et joue également dans Si j'étais toi de Vincent Perez. L'année d'après, il rejoint Halle Berry et Benicio Del Toro pour le drame Nos souvenirs brûlés, avant d'endosser à nouveau le rôle de l'agent Fox Mulder pour X Files - Régénération. Il incarne en 2010 le mari de Demi Moore dans La Famille Jones.