Nach seiner Schulausbildung an der Walden School studierte Bernstein an der New York University. Im Zweiten Weltkrieg diente er bei dem US Army Air Corps. Seine Musikkarriere begann Bernstein als Komponist von Musik zu Radiosendungen und Dokumentarfilmen. 1950 zog er nach Hollywood und begann dort als Filmmusik-Komponist zu arbeiten.
Insgesamt umfasst sein Lebenswerk über 200 Werke, für die er 14 Mal für den Oscar nominiert wurde. Gewonnen hat er die begehrte Auszeichnung jedoch nur einmal: 1967 für das MusicalModern Millie – Reicher Mann gesucht(Thoroughly Modern Millie).
Mit einem Konzert in der Londoner Royal Albert Hall feierte er am 14. August 2001 sein 50-jähriges Jubiläum als Filmmusik-Komponist. Mit seinem Namensvetter, dem Komponisten Leonard Bernstein, war er zwar eng befreundet, aber nicht verwandt. Mit seinem Sohn Peter Bernstein, der gleichfalls als Filmkomponist tätig ist, hat er gelegentlich zusammengearbeitet.
Auf dem Hollywood Walk of Fame ist bei der Adresse 7083 Hollywood Blvd. für Elmer Bernstein ein Stern eingelassen.
In der Schlusseinstellungen des Films Die glorreichen Sieben (2016) zitiert die Musik Takte aus der Titelmelodien von Bernstein zum gleichnamigen Film von 1960 und spielt sie ausführlicher zum Abspann.