Avec Brown et Tony Blair, il est l'un des principaux architectes de la transformation du Parti travailliste en ce qui est appelé le New Labour. Il a été deux fois membre du gouvernement Blair et a été contraint deux fois de démissionner.
Il est producteur pour London Weekend Television avant de devenir le directeur de la communication du Parti travailliste en 1985. C'est à cette époque qu'il acquiert dans la presse britannique son surnom de « Prince des ténèbres ». C'est lui qui s'occupe de la gestion de la campagne travailliste lors des élections législatives de 1987, qui se solde en un échec.
Il quitte cette fonction en 1990 et est choisi comme candidat travailliste pour le siège d'Hartlepool. Il est élu à la Chambre des communes lors des élections générales de 1992. Il a peu d'influence sur John Smith qui dirige alors le Parti travailliste, mais fait quelques discours remarqués pour souligner son soutien à l'Union européenne.
En 1994, à la mort de John Smith, Mandelson joue un rôle important dans la campagne de Tony Blair pour prendre la tête du parti et devient un allié ainsi qu'un proche conseiller. Il organise les nombreux changements du parti à cette époque, ce qui lui attire l'animosité de toute une partie de ses collègues[3]. Il devient le directeur de campagne lors des élections générales de 1997 qui ramènent les travaillistes au pouvoir après près de 18 ans d'opposition. Après l'élection, il est nommé ministre sans portefeuille, chargé du projet du Dôme du millénaire à Londres pour l'an 2000.
En 1998, il rejoint le cabinet comme secrétaire d'État au commerce et à l'industrie mais, le , il doit démissionner après qu'on ait révélé qu'il avait touché un prêt immobilier secret de 373 000 £ de son collègue au gouvernement, le payeur-généralGeoffrey Robinson, sans l'avoir déclaré au gouvernement ou à son organisme de crédit. Il est aussi au centre de l'attention médiatique sur sa vie personnelle, un éditorialiste du The Times ayant mentionné qu'il était « sans doute homosexuel ». Aujourd'hui, il assume ouvertement sa sexualité.
En , il revient au gouvernement comme secrétaire d'État pour l'Irlande du Nord, en remplacement de Mo Mowlam, alors que le processus de paix semblait bloqué. Il met en œuvre la nouvelle assemblée législative locale et la réforme des services de police.
Mandelson traverse à nouveau un scandale en 2001. En , il avait appelé personnellement un fonctionnaire du ministère de l'Intérieur pour obtenir la citoyenneté britannique pour Srichanda Hinduja, un homme d'affaires indien dont la famille est aussi l'un des principaux soutiens financiers d'une des expositions au Dôme du millénaire. Il démissionne une seconde fois du gouvernement le . Une enquête indépendante conclut qu'il n'a transgressé aucune règle parlementaire.