Carleton Place, originellement appelé Morphy's Falls, est choisie comme site pour un moulin par Edmond Morphy en 1819. Elle est située sur la rivière Mississippi, un tributaire de la rivière des Outaouais. Elle devient un village en 1870 et une municipalité en 1890. Le nom donné plus tard à l'endroit était originellement Carlton Place, d'après la rue à Glasgow, mais l'orthographe fut modifiée en 1829.
Les moulins à textile et à bois ont tous deux été florissants à Carleton Place, mais aucun n'est aujourd'hui en opération. La fonderie Findlay a opéré à Carleton Place commençant dans les années 1860 et jusqu'en 1974, fabriquant des poêles à bois et divers articles de fonte.