Родился в семье купца Матвея Яковлевича Рубинштейна и Елены Лейзеровны (Лазаревны) Самсонович. Его дед Яков Михайлович Рубинштейн, поселившийся в Верхнеудинске не позднее начала 1870-х годов, был одним из основателей еврейской общины города. Учился в Верхнеудинском уездном училище и Иркутской губернской гимназии, которую окончил в 1899 году. Поступил в Казанский университет, но подав прошение, выехал на стажировку в Берлинский университет, а затем продолжил обучение на естественном отделении Фрейбургского университета Перейдя на философский факультет Фрейбургского университета, он окончил его в 1905 году[2]; защитив докторскую диссертацию, он получил учёную степень доктора философии magna cum laude и медаль. В это время в журнале «Kantstudien» на немецком языке была опубликована его работа «Логические основы системы Гегеля и конец истории» (её краткий перевод на русском языке был напечатан в 1905 году в журнале «Вопросы философии»). С 1906 года он работал в Берлине, Дрездене, Гейдельберге.
В 1918—1919 годах М. М. Рубинштейн руководил открытым Временным Сибирским правительством в ИркутскеВосточно-Сибирским университетом. Вскоре после установления в Иркутске советской власти, 27 января 1920 года он отказался от должности ректора и преподавательской деятельности в университете и организовал Восточно-Сибирский педагогический институт народного просвещения. В мае 1923 года Рубинштейн покинул Иркутск и возвратился в Москву.
В 1930-х годах преподавал в МВТУ, МГПИ, Центральном институте физической культуры, в 1941—1942 годах в Красноярском педагогическом институте; в 1943—1951 годах — профессор кафедры педагогики МГПИ.
27 октября 2018 года, в честь 100-летия основания Иркутского государственного университета, у административного здания ИГУ был открыт памятник М.М. Рубинштейну.
Преобладающий круг интересов Рубинштейна — философия воспитания и образования личности. Эти проблемы рассматриваются им в глобальном контексте миро- и жизнепонимания. Центральная задача главного философского труда («О смысле жизни», ч. 1. Л., 1927; ч. 2. M., 1927) — поиск правдиво-жизненного мировоззрения, способного «осветить действительную жизнь и углубить её». В развитии такого мировоззрения отводил важную роль своей концепции «монистического идеал-реализма и творческого антропоцентризма», свободной от трансцендентных моментов. Книга подверглась ожесточенной идеологической критике, положившей конец публикации философских работ Рубинштейна.
Рубинштейн М. М.Современное образование и нравственность М. : типолитогр. т-ва И.Н. Кушнерев и Кº, 1917. - 47 с. - Отд. отт. из журн. "Вестник воспитания", 1917, № 1.
Рубинштейн Моисей Матвеевич // Педагогическая энциклопедия. — Т. 3. — М., 1966. — С. 730
Иркутский государственный университет (1918–1998): Ректоры, профессора, деканы. — Иркутск, 1998. — С. 302.
Каменев С. А. По ту сторону марксизма (Классовая позиция и мировоззрение проф. М. М. Рубинштейна) // Известия Северо-Кавказского ун-та. — Ростов-н/Д, 1928. — № 3 (16).
Никольская А. А. Некоторые аспекты научного творчества М. М. Рубинштейна // Вопросы психологии. — 1978. — № 5.
Иванов Д. В.М. М. Рубинштейн: штрихи к портрету и основным психологическим идеям // Отв. ред. А. Л. Журавлев, В. А. Кольцова, Ю. Н. Олейник История отечественной и мировой психологической мысли: Постигая прошлое, понимать настоящее, предвидеть будущее: Матер. междунар. конф. по истории психологии «IV московские встречи», 26—29 июня 2006 г. — М.: Институт психологии РАН, 2006. — С. 399—404. Архивировано 13 апреля 2014 года.
Степанова Л. А. Рубинштейн М. М. : своевременные мысли о педагогическом образовании // Педагогика. — 2008. — № 6. — С. 100—106. — ISSN0869-561Х.
Рубинштейн Моисей Матвеевич (1878-1953) (неопр.). Факультет психологии Московского государственного университета им. М. В. Ломоносова. Дата обращения: 22 апреля 2012.
Рубинштейн Моисей Матвеевич (неопр.). Российский общеобразовательный портал. Дата обращения: 22 апреля 2012. Архивировано из оригинала 27 марта 2016 года.
Под редакцией В. С. Стёпина.РУБИНШТЕЙН Моисей Матвеевич // Новая философская энциклопедия: В 4 тт. М.: Мысль (рус.). — 2001. — статья в онлайн-энциклопедии Академик