Frederik Holst var den første (1817) som tok en doktorgrad ved universitetet i Christiania. Som professor i medisin der i mer enn 40 år og aktivt engasjert i faglig-medisinske spørsmål, satte han sterkt preg på både legeutdanningen og utviklingen av det offentlige helsevesenet i Norge på 1800-tallet.
Holst ble dimittert fra katedralskolen i Christiania til examen artium ved universitetet i København 1810. Farens fetter, Michael Skjelderup, var professor i medisin der, og etter to års privatstudier hos ham og volontør- og kandidattjeneste ved Det kgl. Frederiks hospital avla Holst medisinsk embetseksamen 1815. Deretter fulgte et drøyt års kandidattjeneste ved Frederiks hospital, avbrutt av et opphold i Norge for å ta lisensiatgraden i medisin, før han vendte tilbake til Norge for godt før jul 1816.
Holst kom hjem på et tidspunkt da det nettopp var bruk for hans kompetanse og faglige profil. I årene etter 1814 skulle landet bygge opp både et nasjonalt helsevesen og et akademisk miljø, og Holst var godt oppdatert innenfor medisin og organisering av helsetjeneste. Han hadde allerede vitenskapelig erfaring gjennom den prisoppgaven han hadde utarbeidet i studietiden, foruten lisensiatgradsarbeidet, og han videreførte dette i Christiania ved – som den første ved det nye universitetet – å ta doktorgraden 1817 (på en avhandling om radesyken, en sårdannende, smittsom sykdom som opptrådte i Norge på 1700- og 1800-tallet), slik at han ble en naturlig kandidat til en vitenskapelig stilling der.
I likhet med en rekke andre norske leger på 1800-tallet var Holst sterkt internasjonalt orientert. Allerede høsten 1817 drog han med statsstipend til Uppsala og Stockholm for å studere medisinsk undervisning og administrasjon. Umiddelbart etter hjemkomsten ble han konstituert og senere utnevnt i den viktige posisjonen som stadsfysikus i Christiania (1818), men 1819 reiste han igjen av sted – denne gang for å bli borte i to år og studere hygiene, sinnssykevesen, fattigvesen og fengselsvesen ute i Europa.
Holst var allsidig innenfor sitt fag. Før han la ut på sin lange utenlandsreise, hadde han begynt å forelese osteologi (læren om benvevet og skjelettet) og bandasjelære for de norske medisinerstudentene, og 1823 foreleste han kirurgi under professor Thulstrups fravær. Da han 1824 ble utnevnt til professor i medisin, omfattet stillingen fagene farmakologi, toksikologi og hygiene. Holsts interesser var imidlertid i stor grad rettet ut over de faglige grensene, mot behovene i det norske samfunnet. Allerede i doktorarbeidet om radesyken konstaterte han at det måtte være nær sammenheng mellom sykdommen og samfunnet, og han gav klare råd om samfunnsmessige reformer som han antok kunne hjelpe, både medisinske og mer generelle.
Utdanningen av leger opptok Holst sterkt. Nå da Norge hadde fått sitt eget medisinske fakultet, planla man å bli selvforsynt med leger, rekruttert og utdannet i Norge. Noe av det første som trengtes, var undervisningssykehus. Holst ble en sentral person i planleggingen og driften av Rikshospitalet fra åpningen 1826 til han gikk ut av sykehusets direksjon 1854.
Fengselsvesenet i Norge var primitivt i første del av 1800-tallet. På sine reiser hadde Holst også lært at selve strafferettspleien kunne være nokså varierende. Han engasjerte seg sterkt i arbeidet for å opprette et fengselsvesen som oppfylte krav til så vel en rimelig standard som til målsetting for avstraffelsen. Hans mangeårige arbeid på dette området fikk bl.a. stor betydning for opprettelsen av Botsfengselet i Christiania (1851). Også omsorgen for de sinnslidende lot mye tilbake å ønske. Holst fulgte med i den internasjonale utviklingen på området, men det var en lang og tung vei å gå fra det første skrift om temaet var kommet fra hans hånd (1822) til sinnssykeloven forelå 1848, og Gaustad Asyl kunne åpnes 1855.
Holst var, i den første tiden sammen med Michael Skjelderup, utgiver av det første norske medisinske fagtidsskrift, Eyr (1826–37), en imponerende innsats i en tid da både antallet potensielle abonnenter og skribenter var meget lite. Å etablere et faglig foreningsmiljø var viktig, og Holst var med på å stifte (1833) og ble første formann i den legeforeningen i Christiania som senere fikk navnet Det norske medicinske Selskab, og som hadde sitt utspring i et medisinsk leseselskap fra 1826. Selskapet stod bak tidsskriftet Norsk Magazin for Lægevidenskaben, som begynte å komme ut 1840, og Holst var medlem av redaksjonskomiteen til 1845. Han foretok en rekke studiereiser til utlandet, var medarrangør av de nordiske naturforskermøtene 1839–56, og han var medlem av en rekke utenlandske vitenskapelige selskaper.
1833 tok Holst opp i en artikkel i Eyr at Norge burde ha et offentlig, legekyndig sunnhetskollegium, tilsvarende senere tiders helsedirektorat. Fra 1834 var han medlem av medisinallovgivningskommisjonen, som 1847 leverte utkast til lov om medisinalvesenet i Norge, og han skrev selv store deler av forarbeidene. Dette ble også brukt ved forberedelsen av den viktige Sunnhetsloven av 1860, som ble norsk samfunnsmedisins grunnlov frem til den ble erstattet av ny lovgivning 1984. Honoraret for medisinallovgivningsarbeidet satte Holst inn som grunnkapital i et legat til beste for Understøttelsesforeningen for norske leger og deres enker.
Holst hadde også interesser utenfor sitt fag og sitt generelle samfunnsengasjement. Han var f.eks. medlem av direksjonen for Den kgl. Kunst- og Tegneskole i Christiania fra 1822. Hans omfattende publikasjonsvirksomhet viser hans særlige forkjærlighet for arbeidsområder der man kunne modernisere og forbedre levekårene i Norge. Holst ble utnevnt til ridder av St. Olavs Orden samme dag som ordenen ble opprettet, 21. august 1847, han fikk kommandørkorset 1865, og han var også ridder av Nordstjärneorden og Vasaorden. Den bygningen ved Universitetet i Oslo som fra 1994 huser allmennmedisin og de samfunnsmedisinske fag, bærer hans navn – Frederik Holsts Hus.