Karl Markovics, 1963 yılında Vienne, Avusturya'da doğdu. Eğitimini tamamladıktan sonra oyunculuğa adım attı ve ilk başta televizyon projelerinde rol aldı.

Markovics, 2007 yılında Stefan Ruzowitzky'nin yönettiği "The Counterfeiters" filminde Salomon Sorowitsch rolünü üstlendi. Bu rol ile Akademi Ödülü'nü kazandı. Daha önce, 2001 yılında Komm, süßer Tod adlı Viyana siyah mizah filminde rol aldı. Ayrıca, 2007 yılında yayınlanan Franz Fuchs - Ein Patriot adlı TV filminde Franz Fuchs karakterini canlandırdı. Markovics, bir polis drama dizisi olan Inspector Rex 'de de rol aldı. Bu karakteri Stockinger adlı spin-off dizide de canlandırdı.