La Fédération nationale chinoise d'athlétisme amateur est créée le . La même année, elle est reconnue par le Comité international olympique en tant que Comité olympique chinois, représentant la république de Chine. Les statuts de la Fédération sont réorganisés en 1924, et le siège déménage à Nankin[1].
En parallèle de la Guerre civile chinoise, plusieurs membres du Comité olympique rejoignent l'île de Taïwan[2].
À partir du , le comité est reconnu par le CIO en tant que représentant de la république de Chine[3], en parallèle de l'adoption de son nouveau nom, le Comité olympique de république de Chine[4].
Le , la signature des accords de Lausanne conduisent au renommage du Comité, adoptant désormais le nom de Comité olympique de Taipei chinois[5].