Peter F. Holst var den første norske indremedisinske kliniker av internasjonalt format. Hans spesialfelt var hjertesykdommer, og i de mer enn 30 år han var overlege og professor ved Rikshospitalet, var han trolig den ledende kardiolog i Norden.
Holst vokste opp i Trondheim. Han ble student fra katedralskolen der 1880 og tok medisinsk embetseksamen i Kristiania 1888. Etter noen kortere legevikariater ble han 1889 ansatt som “underlæge” ved Lungegaardshospitalet i Bergen, der D. C. Danielssen var sjef. Holst karakteriserte senere oppholdet ved Lungegaardshospitalet og det daglige samarbeidet med Danielssen og Armauer Hansen som sine lyseste medisinske minner. Hans første vitenskapelige publikasjon var da også et arbeid om leprabasillen.
Inspirert av sine to lærere planla Holst en vitenskapelig karriere i skjæringsfeltet mellom bakteriologi og patologi. Først drog han 1890 et halvt år til Berlin for å studere patologisk anatomi under Rudolf Virchow, datidens ledende patolog og grunnleggeren av mikroskopisk patologi som disiplin, før han begynte som assistent ved det patologiske institutt ved Rikshospitalet. De neste ti årene arbeidet Holst vitenskapelig og klinisk med problemstillinger knyttet til bakteriologi: tuberkulose, kolera, meningitt, immunitetsproblemer og bakteriologisk diagnostikk. Doktorarbeidet fra 1894 omhandlet en forgiftningsepisode på Gaustad asyl 1891, som angrep 81 personer, hvorav 4 døde. Alle hadde spist av en kalvestek, og som forgiftningens årsak fant Holst en stavbakterie, som han så karakteriserte nærmere. Avhandlingen var et av de tidligste arbeider om bakteriell kjøttforgiftning, men ble senere og i mindre grad kjent internasjonalt enn det burde ha blitt, fordi det ble publisert på norsk.
Allerede 1892 begynte Holst sin indremedisinske kliniske virksomhet som reservelege ved Rikshospitalets medisinske avdeling A, ved siden av at han fortsatte sine bakteriologiske og epidemiologiske undersøkelser. 1894 ble han konstituert som overlege ved avdelingen, og 1902 ble han utnevnt til professor i indremedisin. Denne stillingen satt han i til han gikk av for aldersgrensen 1932.
Faglig dreide Holsts interesser fra bakteriologi via bakteriologiske blodåresykdommer over til kardiologi. Hans mest betydningfulle kardiologiske arbeid var en større avhandling om Adams-Stokes' sykdom og hjerteblokk. Også denne avhandlingen ble imidlertid publisert på norsk, og innflytelsen nådde ikke særlig ut over Nordens grenser. I resten av sitt yrkesaktive liv publiserte Holst en lang rekke mindre “meddelelser” og meningsytringer om pasientgrupper, undersøkelses- og behandlingsregimer o.l., men med ett unntak ingen artikler eller avhandlinger som i ettertid kan karakteriseres som vitenskapelige. Han var medlem av Videnskabsselskabet i Kristiania (nå Det Norske Videnskaps-Akademi) fra 1901 og æresmedlem i Det norske medicinske Selskab fra 1934.
Holst viktigste faglige bidrag var hans virksomhet som kliniker, lærer og lærebokforfatter. Som kliniker ledet han landets kanskje viktigste indremedisinske avdeling i nesten 40 år; han innførte nye undersøkelses- og behandlingsmetoder og lærte opp kull etter kull av medisinske studenter og yngre leger på avdelingen. Holst var norsk redaktør for den nordiske Lærebog i intern medisin og skrev selv kapitlene om hjertesykdommer. Denne læreboken var gjennom fem utgaver i praksis den eneste læreboken i indremedisin som ble brukt ved alle de nordiske medisinske fakultetene i første halvdel av 1900-tallet. Hans ry som hjertespesialist og lærebokforfatter nådde ut over det nordiske språkområdet. Han ble invitert til å skrive kapittelet om generell behandling av hjertesykdommer og kapittelet om sykdommer i hjertemuskulaturen i et stort amerikansk oversiktsverk i indremedisin.
Holst inngav pasientene tillit og trygghet, og han var derfor meget avholdt som lege. Overfor kolleger hadde han imidlertid en sterk trang til opposisjon. Hans kollega Olaf Scheel skrev i en nekrolog at Holst “elsket diskusjon og yndet motsigelse. Det lå i hans vesen at han gjerne stillet sig i opposisjon, ikke bare mot vedtatte meninger som syntes ham for dogmatiske, men også, i alle fall i første instans, i mer dagligdagse anliggender. Hans rettferdighetssans var absolutt; når det var nødvendig, kastet kan sig gjerne ut i kamp for saken uten å tenke på tid eller arbeid.”