Combustible Edison signe chez Sub Pop et sort son premier album, I, Swinger, en 1994[1]. Une critique du Los Angeles Times, Chuck Crisafulli, note que l'album « reproduit parfaitement le cool des années '50 et l'exotisme hi-fi d'icônes du lounge comme Martin Denny ».[2], tandis que Trouser Press explique que « I, Swinger est une réplique fidèle de l'exotisme du supermarché, jusqu'à la pochette festonnée de recettes de cocktails et de notes de pochette calculées et datées[3]. » Le groupe se produit le à Late Night with Conan O'Brien[4].
Le deuxième album studio du groupe, Schizophonic ! est publié en 1996[1]. Pendant cette période, Dixon a été remplacé par le claviériste « Brother Cleve » Toomey, un ancien DJ de WMBR, qui était auparavant membre des Swinging Erudites Del Fuegos et des Barrarry Whitfield and Savages. DJ qui était auparavant membre des Swinging Erudites, les Del Fuegos, les Fabulous Billygoons, et Barrence Whitfield and the Savages[5],[6].
Au moment du dernier album de Combustible Edison, The Impossible World (1998)[1], le batteur Michael « Laughing Boy » Connors avait remplacé Oppenheimer, et ils avaient incorporé des éléments électroniques plus modernes[7].