Andreï naît dans la famille de Lev Abrikossov, un agronome. En sa prime jeunesse, qui coïncide avec les années de guerre, il mène une vie errante et sans véritables attaches dans le sud de Russie. En 1924, sorti d'une école de Toula il s'engage à la récolte de raisin dans le village de Chyrokaïa Balka près de Novorossiisk. En 1925, il s'installe à Moscou et travaille dans une coopérative de production Stroï-radio. Parallèlement, il prend les cours à l'atelier d'étude d'art cinématographique chez Alexandra Khokhlova, puis, les cours d'art dramatique chez Zinaïda Sokolova(ru), la sœur de Constantin Stanislavski.
En 1926-1929, Abrikossov fait partie de la troupe du studio d'art dramatique au sein du Théâtre Maly, mais les rôles ne viennent pas. Il attend toujours son tour au théâtre quand, en 1929, on le choisit pour incarner Grigori Melekhov dans le film muet Le Don paisible d'Olga Preobrajenskaïa et Ivan Pravov, qui lui apporte une grande notoriété. En 1930-1931, il est acteur du théâtre ouvrier itinérant, puis, en 1931-1937, du Théâtre réaliste de Nikolai Okhlopkov, puis, en 1937-1938, du théâtre Kamerny dirigé par Alexandre Taïrov.
Il se fixe finalement, en 1938, au Théâtre Vakhtangov auquel il restera fidèle jusqu'à la fin de sa vie et dont il prendra la direction en 1953-1959.
Il continue également sa carrière cinématographique et sera membre de l' l'Union cinématographique de l'URSS. Il apparait dans trente-neuf films entre 1931 et 1972.