James White besuchte die öffentlichen Schulen seiner Heimat und danach die Mount Zion Academy im Macon County in Illinois. Während des Bürgerkrieges trat er im Herbst 1863 dem Heer der Konföderation bei. Dort diente er bis zum Kriegsende im Jahr 1865. Anschließend war er in Irvine als Lehrer tätig. Nach einem gleichzeitigen Jurastudium und seiner 1867 erfolgten Zulassung als Rechtsanwalt begann er in Irvine in diesem Beruf zu arbeiten. Zwischen 1872 und 1880 fungierte er als Staatsanwalt im Estill County.
Nach seinem Ausscheiden aus dem US-Repräsentantenhaus praktizierte James White wieder als Anwalt. Im Jahr 1919 setzte er sich zur Ruhe. Er starb am 25. März 1931 in Irvine.