Fils d'une infirmière et d'un professeur, Alex O'Loughlin a toujours voulu être acteur. Il démarre dès son adolescence en jouant dans des cours métrages et des pièces de théâtre amateurs. C'est en 2002 qu'il rentre dans le prestigieux National Institute of Drama Art de Sydney. Il commence alors sa carrière professionnelle au théâtre, jouant du Shakespeare, Tolstoï ou Tchekhov et en tournant dans des spots publicitaires. Il apparaît ensuite en 2003 dans la série australienne Pacific Homicide et dans le téléfilm BlackJack: Sweet Science.

C'est l'année suivante que sa carrière commence à décoller. Il joue d'abord dans le drame australien Oyster Farmer, dont il tient le rôle principal.

En 2005, il scénarise, produit et joue le rôle de Michael Carter dans le dérangeant Feed, réalisé par Brett Leonard. Les deux hommes s'associent une nouvelle fois cette même année pour le film Man-Thing. C'est à ce moment là que Alex O'Loughlin se rêve en James Bond pour Casino Royale et passe des essais, mais le rôle de l'agent 007 revient à un certain Daniel Craig.

On retrouve l'Australien en 2007 aux États-Unis. Laissant son fils sur l'île australienne, il débarque à Los Angeles. Très vite, il intègre le casting de The Shield pour la saison 6 et aura le rôle principal de la série, Moonlight. Malheureusement, cette dernière est annulée au bout d'une seule saison. Il revient au grand écran en 2008 avec Robin Williams et Jonathan Rhys-Meyers pour le film August Rush. En 2009, il rejoint une nouvelle série, dont il obtient l'un des rôles principaux : Three Rivers. Mais elle est annulée, au bout de 13 épisodes. C'est cette année là qu'il apparaît dans le long métrage de Dominic Sena, Whiteout.

On retrouve l'acteur en 2010 aux côtés de Jennifer Lopez pour la comédie romantique Le Plan B. Côté télévision, il reprend le rôle de Steve McGarrett dans le remake de la série Hawaï Police d'état.