Alexander Stewart besuchte die öffentlichen Schulen in New Brunswick. Im Jahr 1849 zog er in das Marathon County in Wisconsin, wo er sich in der Nähe der heutigen Stadt Wausau niederließ. In seiner neuen Heimat wurde Stewart in der Holzbranche tätig. Außerdem begann er als Mitglied der Republikanischen Partei eine politische Laufbahn. Im Jahr 1884 war er Delegierter zur Republican National Convention in Chicago, auf der James G. Blaine als Präsidentschaftskandidat nominiert wurde.
Im Jahr 1900 verzichtete Alexander Stewart auf eine weitere Kandidatur für den Kongress. Er blieb aber in der Bundeshauptstadt Washington wohnhaft. Dort ist er am 24. Mai 1912 auch verstorben. Anschließend wurde er in Wausau beigesetzt.