P. C. Solberg stod som forretningsmann og politiker meget sentralt i omformingen av det norske samfunnet i tiårene rundt 1900. Han bygde ny industri samtidig som han var med på å definere rammevilkårene for den samme industrien. Til begynnelsen av 1920-årene var han en av Norges rikeste menn, men fra midten av 1920-årene var hele formuen borte, og han levde på sin kones formue resten av livet.
Solberg vokste opp på Kobbervik gård i Skoger utenfor Drammen og tok examen artium ved Drammen skole 1884. Som faren studerte han jus, og han ble cand.jur. 1888. Da faren døde 1890, overtok han dennes plass i familieselskapet And. H. Kiær & Co., der han var fjerde generasjon Solberg som samarbeidet med Kiær-familien, et samarbeid som hadde rot i slektskap så vel som vennskap. Hans store forretningsmessige verk var knyttet til hans innsats som direktør i dette selskapet.
1893 giftet Solberg seg med sin tremenning Anna Kiær, søster av Hans Kiær, som også var direktør i And. H. Kiær & Co. i likhet med sine fettere Elias og Frits. Solberg og de tre Kiær-fetrene skapte et omfattende skogindustrielt kompleks med store eiendommer i Norge, Sverige, Russland og til dels Finland (se Elias C. Kiær). Det var sammenbruddet i dette komplekset som sammen med private valutaspekulasjoner ødela Solbergs personlige økonomi i 1920-årene.
Den andre store forretningen som Solberg bygde opp, er Norsk Elektrisk Brown Boveri (NEBB). Også dette dreide seg om et selskap som familien hadde vært involvert i. Først var det hans far, som spilte en viktig rolle i selskapet A/S Frognerkilens Fabrik, og dernest hadde Solberg sammen med sin bror Carl N. A. Solberg 1894 dannet selskapet Norsk Elektrisk Aktiebolag, som tok opp i seg Frognerkilens Fabrik. Norsk Elektrisk Aktiebolag var med på å bygge ut elektrisitetsforsyningen i Norge, og i denne forbindelse var P. C. Solberg personlig långiver for Kristiansands, Drammens, Kongsvingers og Ålesunds elektrisitetsverk.
Det var broren Carl som hadde det daglige ansvaret for selskapet, men da han ble syk og døde og det var store finansielle forpliktelser knyttet til denne type næringsvirksomhet, gikk P. C. Solberg i spissen for dannelsen av NEBB ved å slå sammen Norsk Elektrisk Aktiebolag og sveitsiske Brown Boveris norske datterselskap. Frem til sin død var han formann i styret for NEBB, og hans sønn Sven Adolf Solbergvar direktør for NEBB 1926–60.
Solberg engasjerte seg sterkt i lokalsamfunnet i Fredrikstad, dit han flyttet 1895 da han gikk inn i partnerskapet med de tre fetrene Kiær. Han var medlem av Fredrikstad bystyre 1905–07 og representerte byen på Stortinget i tre perioder fra 1898 til 1906. Kåre Fasting har karakteristert Høyre-politikeren Solberg som en selvstendig mann, og han skal ha vært den første som 1898 i Stortinget foreslo og fikk vedtatt en bevilgning til en reguleringsplan for et av de norske vassdragene.
Juristen Solberg var sterkt engasjert av den nye tids teknologi, og en del av hans foredrag i Polyteknisk Forening 1906 er ofte sitert: “For mig er det like meget de intellektuelle som de rent økonomisk interesser som står i forgrunnen [...] De dikterverker som skrives for nærværende, og som er verdt å lese, skrives langt oftere med passer og linjal enn med blekk og penn.”
Solberg var interessert i historie, sosialøkonomi og kunst. Etter at han trakk seg tilbake fra forretningslivet, bodde han for det meste i Spania og Frankrike, der han utgav det rettshistoriske verket Le droit et la doctrine de la justice.
P. C. Solberg ble utnevnt til ridder av 1. klasse av St. Olavs Orden 1905.