La rue est située à l'emplacement de l'ancienne rue de la Grange-aux-Merciers à la limite du parc du Pâté-Pâris. Une partie du terrain de l'ancien parc est vendu par ses propriétaires en 1825 à l'État qui y construit une caserne de cavalerie. Cette caserne est vendue à la Ville de Paris vers 1880 pour l'extension des entrepôts de Bercy jusqu'en bordure de la gare de la Rapée[1].
La rue de la Grange aux meuniers devient la rue intérieure Nicolaï des entrepôts de Bercy ou Cour Nicolaï. Ce espace est encore restructuré vers 1990 au cours de l'aménagement de la ZAC de Bercy après la suppression de ces entrepôts.
Cette voie est créée dans ce cadre sous le nom de voie BV/12 et absorbe la cour Nicolaï. Elle prend sa dénomination actuelle par arrêté municipal du .
Emplacement de l'actuelle avenue sur plans de 1784 et de 1846