Родился в Санкт-Петербурге в семье архитектора и инженера-строителя Шмуйла Берковича (Александра Борисовича) Раппопорта (1873—1940), уроженца местечка ЧашникиЛепельского уездаВитебской губернии, выпускника Киевского художественного училища Императорской академии художеств (1913) и Киевского строительного института (1937)[2], среди его проектов — доходный дом Бурмистрова на Большой Дворянской улице, № 5, в Санкт-Петербурге. Мать — Зельда-Геня Шаевна (Зинаида Исаевна) Розовская (1877—1954), родом из Новогрудка, была зубным врачом (eё домашний зубоврачебный кабинет в Санкт-Петербурге с 1905 года располагался на Ново-Петергофском (Лермонтовском) проспекте, дом № 55, кв. 17)[3][4]. Родители заключили брак в 1908 году в Санкт-Петербурге, но вскоре после рождения сына расстались и отец вернулся в Киев.
В 1931—1937 годах Павел Раппопорт учился на архитектурном факультете ЛИИКСа, защитив дипломный проект на тему «Общественное здание». Из-за доноса вынужден был покинуть Ленинград и преподавал два года историю архитектуры в Симферополе в Крымском филиале МИИКСа. В 1939 году вернулся в Ленинград и поступил в аспирантуру ИИМКа, где впоследствии проработал до конца жизни. Научным руководителем П. А. Раппопорта стал историк и археолог, крупнейший специалист по истории древнерусской архитектуры Н. Н. Воронин, под влиянием которого и определился круг научных интересов Раппопорта. Изучая русское шатровое зодчество, он в начале 1941 года по архивным данным вновь открыл Борисоглебскую церковь в Борисовом городке.
После начала Великой Отечественной войны Павел Раппопорт в июле 1941 вступил добровольцем в народное ополчение и был назначен начальником инженерной службы отдельного пулемётного артиллерийского батальона, участвовал в боях на подступах к Ленинграду. В упорных боях близ Ропши батальон почти полностью погиб. Павел Александрович чудом остался жив, воевал в пехоте, командовал сапёрной ротой. В конце 1941 г. был ранен. После госпиталя — снова командир саперной роты в частях Ленинградского фронта. В начале 1943 г. он был переведен в береговые части Балтийского флота (в инженерный отдел). Участвовал в обеспечении деятельности береговой дальнобойной артиллерии, в изыскании способов обезвреживания неразорвавшихся бомб и мин. После снятия блокады Ленинграда П. А. Раппопорт занимался разминированием Балтийского побережья. Им написаны несколько руководств по разминированию, две большие статьи по военно-инженерному искусству, напечатанные в бюллетене Военно-инженерного управления ВМФ. Конец войны застал Раппопорта инженер-капитаном с боевыми наградами, хорошими служебными перспективами. Однако при первой же возможности в 1946 году Павел Александрович демобилизовался и вернулся к научной деятельности.
В 1947 году П. А. Раппопорт защитил кандидатскую диссертацию на тему «Русское шатровое зодчество конца XVI века». В 1965 году исследователю была присуждена степень доктора исторических наук.
В 1946—1988 годах трудился в Ленинградском отделении Института археологии (ЛО ИИМК АН СССР), провёл более 40 полевых сезонов. Занимался изучением военного зодчества Древней Руси, изучал укрепления Киева, Великого Новгорода, Владимира, Суздаля, Галича, Старой Ладоги, Порхова, Смоленска и прочих городов. С Н. Н. Ворониным производил раскопки в Смоленске, способствовал восстановлению картины эволюции смоленско-черниговского зодчества домонгольской эпохи. Важное значение придавал строительным артелям, которые, по его представлениям, переходили из княжества в княжество, перенося с собой строительные навыки. Составил каталог известных по археологическим данным архитектурных памятников Древней Руси (1982). Написал свыше 200 трудов. В конце жизни подготовил фундаментальное исследование эволюции древнерусского зодчества вплоть до петровской эпохи.
Как считает археолог В. Ю. Коваль, многие выводы Раппопорта об устройстве древнерусских крепостей оказались ошибочными из-за несовершенства исследовательской методики учёного. По его мнению, «авторитет П. А. Раппопорта в научных кругах был и остаётся очень высоким, он необычайно много сделал для исследований каменной (церковной) архитектуры, однако относительно деревянной — его представления не соответствовали уровню археологических знаний. Так, только благодаря поддержке учёным столь же устаревшего стереотипа о землянках и полуземлянках (как основном типе жилищ восточного славянства) эту ошибочную интерпретацию погребов и подполий под наземными домами „законсервировали“ на много лет»[5].