Nella sua carriera Starkovs ha allenato lo Skonto Riga (dal 1993 al 2004) e la Lettonia (dal 2001 al 2004). Rilevò la panchina della nazionale lettone dopo la disastrosa performance alle qualificazioni per i Mondiali 2002, subentrando a Gary Johnson dopo il pareggio casalingo 1-1 contro San Marino e condusse la squadra al più importante successo di sempre, la qualificazione a Euro 2004 con una vittoria ai play-off sulla terza classificata ai Mondiali 2002, la Turchia. Dopo questo successo come CT, fu ingaggiato dallo Spartak Mosca. Nell'aprile 2006 è stato costretto a dimettersi a causa dell'ostracismo totale da parte dei tifosi. Quasi un anno dopo le dimissioni dalla squadra russa, Starkovs è tornato sulla panchina della Lettonia.
Prima di allenare, Starkovs aveva giocato come attaccante, trascorrendo quasi tutta la sua carriera al Daugava Rīga. Per il Daugava mise a segno 110 gol in 301 partite.