Почав свої професійні виступи в хокеї в сезоні 1999–2000 років у складі московськогоСпартака.
На той час команда виступала у вищій лізі чемпіонату Росії, що є другою за силою в російському хокеї. У 2000 році у складі юнацької збірної Росії до 18 років виграє срібні нагороди юнацького чемпіонату світу. В наступному році разом з командою виграв золоті нагороди першості, а сам став найкращим бомбардиром, снайпером та найкращим нападником турніру набравши в 6 поєдинках 15(11+4) очок. В тому ж році грав на чемпіонаті світу також і в складі молодіжної збірної Росії віком гравців до 20 років.
Після таких успіхів його талант оцінили і за океаном, де на щорічному ярмарку молодих хокеїстів він був обраним на драфті під першим загальним номером, командою «Атланта Трешерс». Того ж сезону він почав свої виступи за новий клуб.
Вже у 18 років став учасником Олімпійських Ігор, що проходили в Солт-Лейк-Сіті, де здобув бронзові нагороди. Оскільки його команда в НХЛ виступала не дуже успішно (один плей-оф за сім сезонів), то Ковальчук був частим учасником чемпіонатів світу. В 2005 та 2007 роках він ставав бронзовим призером чемпіонатів світу. Був учасником Кубку Світу 2004 та Олімпійських Ігор 2006. Справжнім тріумфом можна вважати його участь на двох останніх чемпіонатах світу, де росіяни здобували золото. Спочатку в 2008 році у фінальному матчі проти канадійців, що проходив в Квебеці, Іллі вдалося зрівняти рахунок в основний час гри, а потім закинути переможну шайбу в овертаймі. Наступного ж року на чемпіонаті світу в Швейцарії Ковальчука було визнано найціннішим гравцем чемпіонату.