Dubovský sa narodil 28 .júna 1921 v Rakoviciach. Základnú školu absolvoval v rodnej obci, meštianku vo Vrbovom, gymnázium v Kláštore pod Znievom. V júni 1940 vstúpil do Spoločnosti Ježišovej. Roku 1947 začal študovať teológiu a filozofiu v Brne, potom bol dva roky magistrom novicov v Trnave a pracoval v redakcii Posla Božského Srdca. V roku 1950 pokračoval v Trnave v štúdiu teológie, no v noci z 13. na 14. apríla bol vyvezený spolu s ostatnými rehoľníkmi do tábora v Podolínci. Odtiaľ ho 5. septembra eskortovali na základnú vojenskú službu a do tzv. PTP (pomocného technického práporu). Na Štedrý večer toho istého roka ho biskup Kajetán Matouška tajne vysvätil za kňaza. Po 40 mesiacoch vojenčiny sa zamestnal v stavebnom podniku Konstruktiva v Prahe, kde pracoval už predtým ako vojak. Pastoračnú činnosť zameral v tom období najmä na vysokoškolákov – chodieval na internáty, ale aj do mnohých rodín, robil exercície na chatách a vysluhoval sviatosti.
V máji 1961 ho biskup Dominik Kaľata tajne konsekroval za biskupa. Roku 1962 biskupa Petra Dubovského zatkli a odsúdili na šesť rokov odňatia slobody. Prepustili ho v roku 1967.
Od roku 1969 pôsobil dva roky ako kaplán v Nitrianskom Pravne a vypomáhal na fare v Handlovej. Svoju pastiersku službu naplno rozvinul, keď sa stal farárom v Novej Lehote. V tejto malej farnosti pôsobil 20 rokov. Začiatkom januára 1991 bol z poverenia Svätej stolice vymenovaný za pomocného biskupa v Banskej Bystrici. Roku 1993 sa stal predsedom Spolku svätého Vojtecha v Trnave a po ôsmich rokoch pôsobenia v tejto funkcii bol zvolený za doživotného čestného predsedu. Popritom vykonával funkciu generálneho vikára biskupa Rudolfa Baláža a päť rokov bol aj generálnym sekretárom Konferencie biskupov Slovenska a pôsobil vo farnosti Banská Bystrica – Radvaň.
Od roku 1997 bol Dubovský emeritným biskupom a po roku 2005 sa stal členom komunity v Ivanke pri Dunaji. V roku 2005 mu udelili v jeho rodnej obci titul "Čestný občan obce Rakovice".