Découverte par un agent alors qu'elle était barmaid à New York, Ellen Pompeo fait ses premiers pas dans le métier d'actrice dès 1996 dans des publicités. Après quelques figurations au cinéma, elle obtient un rôle de guest-star dans la série New York District (2000). Afin de vivre pleinement sa carrière, elle s'installe à Los Angeles et multiplie les petits rôles sur petit et grand écran.

Ellen Pompeo obtient un début de reconnaissance en 2002 lorsque Brad Silberling lui offre un rôle majeur dans le drame Moonlight mile face à Jake Gyllenhaal et Dustin Hoffman. Appréciée par la critique, elle enchaîne peu après dans Arrête-moi si tu peux (2002) où elle joue l'une des conquêtes du personnage de Leonardo DiCaprio. L'année suivante est également chargée, avec un rôle – coupé au montage – dans Daredevil (2003), ainsi que dans la comédie Back to school (retour à la fac).

L'actrice de 35 ans revient à la télévision en participant à un épisode de l'ultime saison de Friends (2004). La consécration arrive quelques mois plus tard lorsque Ellen Pompeo devient l'héroïne de la nouvelle série médicale Grey's Anatomy, énorme succès sur ABC et révélation de l'année 2005. Elle prête ses traits à Meredith Grey, une jeune interne fragile et déterminée qui tente de faire ses preuves au Seattle Grace Hospital.