Pour son premier poste, il fut placé en garnison à Bâton-Rouge en Louisiane où il demeura jusqu'en 1825. Il fut ensuite nommé capitaine-adjudant au 1st US Infantry Regiment au sein duquel il occupa des fonctions administratives. Il fut promu premier lieutenant en septembre 1828 et prit part à la guerre de Black Hawk contre les indiens Sauks en 1832. Il fut ensuite en garnison dans l'Illinois et dans le Wisconsin.
Après la guerre, il épousa Mary Patterson Engle, fille du général Robert Patterson, un riche marchand de Philadelphie. Ils eurent neuf enfants.
Il fut le fondateur en 1857 du Fort Abercrombie, dans ce qui est aujourd'hui le Dakota du Nord, choisissant et supervisant la construction de l'édifice de bois. Il en commanda la garnison jusqu'à ce qu'il fut affecté dans le Minnesota.
Guerre de Sécession
Âgé de 63 au début du conflit, Abercrombie était l'un des officiers les plus anciens, à la fois des armées de l'Union et de celles de la Confédération. Il commandait alors le 7th US Infantry Regiment dans le Minnesota avec le grade colonel dans l'armée régulière.
Après la fin de la campagne péninsule, il fut remplacé en tant que commandant par de plus jeunes officiers et passa l'année suivante à la défense de Washington DC et prit la direction de divers dépôts d'approvisionnement en Virginie à partir de 1864 et pendant la campagne Overland. Il commandait les troupes qui défendaient un dépôt à Fredericksburg en Virginie contre une attaque de la Hampton's Legion en juin 1864.
Il fut nommé brigadier-général breveté au sein de l'armée régulière le en reconnaissance de son long service [1] et quitta le service actif le de cette même année [2] après avoir été le commandant du Fort Schuyler à New York.
L'après guerre
Abercrombie continua de travailler pour l'armée américaine et siégea à la cour martiale pendant les 3 années.
Linedecker, Clifford L., ed. Civil War, A-Z: The Complete Handbook of America's Bloodiest Conflict. New York: Ballantine Books, 2002. (ISBN0-89141-878-4)