In 2000 werd de club op basis van het fairplay-klassement van de Europese voetbalbond UEFA toegelaten tot het toernooi om de UEFA-cup. Rayo Vallecano bereikte in 2000/2001 de kwartfinale. Daarin werd de Madrileense club uitgeschakeld door Deportivo Alavés, een andere Spaanse club die dat seizoen boven verwachting presteerde. Na dit onverwachte succes in Europa ging het snel bergafwaarts met Rayo Vallecano. In 2003 degradeerde de club naar de Segunda División A. In 2004 degradeerde Vallecano opnieuw, ditmaal naar de Segunda División B. De seizoenen 2004/2005 en 2005/2006 waren evenmin succesjaren met een plaats in de middenmoot. In 2008 promoveerde Rayo Vallecano naar de Segunda A door in de finale van de play-offs Zamora CF te verslaan. Vanaf 2011 komt Rayo opnieuw uit in de Primera División. In het seizoen 2013/14 eindigde Rayo als twaalfde en in het seizoen 2014/15 als elfde. In het seizoen 2015/16 eindigde Rayo als achttiende, waardoor de club net als Getafe en Levante naar de Segunda División A afdaalde. Een terugkeer in de Primera División volgde in 2018, maar duurde nu slechts één seizoen. In het seizoen 2020/2021, won Rayo Vallecano de finale van de play-offs tegen Girona FC. Dat het won met 2-1. Hiermee keerde ze na 2 seizoenen weer terug naar het de Primera División het hoogste niveau van Spanje.