La chanson est écrite comme un cadeau d'anniversaire pour sa première épouse, Elizabeth Weber. Paru en single, la chanson fut réduite d'une minute, supprimant notamment le second couplet et connut un énorme succès, atteignant la troisième place des charts américains et le top 20 des charts britanniques.
Mais au départ, Joel n'aimait pas personnellement cette chanson qui devait à l'origine ne pas faire partie de l'album[1]. Toutefois, à la demande de Linda Ronstadt et de Phoebe Snow (l'une et l'autre enregistraient dans d'autres studios du même immeuble), Joel et le producteur Phil Ramone ont accepté de la laisser sur l'album. Elle a été inspirée musicalement par le hit I'm not in love de 10cc deux ans auparavant, en reprenant son clavier et ses chœurs, comme l'indique Phil Ramone[2].