Geboren in Villarosa (Sizilien), emigrierte LaRocca mit seiner Familie im Jahr 1910 in die Vereinigten Staaten und ließ sich in Indiana County (Pennsylvania) nieder. Als junger Mann ging LaRocca dort in Kohlengruben. Im Jahr 1922, im Alter von 20 Jahren, wurde er wegen tätlichen Angriffs auf eine junge Frau angeklagt und zu drei Jahren Gefängnis verurteilt.
LaRocca wurde Berufsverbrecher und stieg im Jahr 1936 unter der Führung von Francesco Amato zum Underboss der Pittsburgh crime family auf. Amarto regierte fast zwei Jahrzehnte, bis er schwer erkrankte und 1956 als Boss zurückgetrat und als Unterboss die Nummer zwei der Familie blieb.[5][2][6] Die Position als neues Familienoberhaupt nahm John Larocca ein, nach dessen Namen die Familie später benannt wurde.[2][7]
LaRocca und Mannarino wurden Partner im Sans Souci Hotel-Casino auf Havanna (Kuba) von Santo Trafficante, Jr., dem Boss der Trafficante-Familie.[4][6][9] Im Jahr 1959 übernahm der kubanische Revolutionär Fidel Castro jedoch die Kontrolle über Kuba und zwang die Mafiosi sich weitgehend zurückzuziehen.[9]
Durch Bestechung wurde LaRocca ein sehr mächtiger Boss und hatte Politiker, Polizisten und andere Beamte Pittsburghs in seiner Tasche.[2] Seine Familie steuerte auch die Laborers Local Union # 1058.[2] LaRoccas Einfluss wuchs zudem auch stark durch enge Bindungen zu Gambino-Boss Carlo Gambino, Bufalino-Boss Russell Bufalino, Bruno-Boss Angelo Bruno und Civella-Boss Nick Civella.[2]