Karl Bergmann var nesten hele sitt liv knyttet til Den Nationale Scene i Bergen, fra debuten 1901 til avskjedsforestillingen seksti år senere. Han hadde en solid posisjon innen norsk teater, både som skuespiller og som instruktør og teatersjef.
Karl Bergmann ble tidlig foreldreløs, og vokste opp dels hos morens fetter, dels hos sin eldste søster. Etter middelskole og ufullført handelsskole reiste han knapt 17 år gammel til Kristiania, hvor han fikk elevengasjement ved det nystartede Sekondteatret hos ekteparet Ludovica Levy og Dore Lavik. Teaterets konkurs 1901 førte ham tilbake til Bergen, med anbefalingsbrev fra Bjørn Bjørnson. Samme høst debuterte han på Den Nationale Scene (DNS), men til tross for en lovende debut lot gjennombruddet vente på seg. Etter halvannet års teaterstudier i utlandet, fikk han fornyet engasjement ved DNS, fortsatt uten suksess. Men ved Fahlstrøms Theater i Kristiania sesongen 1906/07 gjorde han lykke, og kunne vende tilbake til DNS med styrket selvtillit. Etter hvert opparbeidet han seg en posisjon i første rekke både som skuespiller og instruktør, og bortsett fra noen år som teatersjef i Stavanger (1921–24) var Bergmann i alle år knyttet til DNS, også som sjef. Ellers gjestet han øvrige norske teatre både som skuespiller og instruktør.
Karl Bergmanns skuespillertalent spente fra dramatiske karakterskildringer til vitale komedietyper. “Intelligent” har vært en ofte benyttet karakteristikk på hans spill, ikke alltid bare positivt: intelligensen kunne stå i veien for fantasien. Ellers var det først og fremst ektheten i hans fremstilling som ble berømmet, samtidig som han i sin kunst viste respekt for menneskene og det menneskelige. Han ble en anerkjent Ibsen-tolker (f.eks. i hovedrollene i Rosmersholm og John Gabriel Borkman), og han så det som sin livsoppgave å “få Holberg tilbake til Norge”; selv spilte han bl.a. Erasmus Montanus, Jean de France og Vielgeschrey. Men aller mest kjent er hans klassiske rolleskikkelse Bøschen i Hans Wiers-Jenssens Jan Herwitz: Her var han “fortreffelig, bisk og giftig”. Som instruktør viste han også stor spennvidde, og også her var det vesentligste for ham å få frem mennesket i rolleskikkelsene.
Perioden som teatersjef i Bergen (1931–34) var tidvis turbulent. 1933 kom det til åpen strid mellom teatersjefen og et styremedlem, skipsreder Thorvald Halvorsen. Stridens kjerne gjaldt styrets eventuelle anledning til å gripe inn i kunstneriske spørsmål, og endte med anerkjennelse av sjefens suverenitet i kunstneriske anliggender. Sin motvilje mot Halvorsen viste Bergmann ved å benytte ham som modell for sin malisiøse fremstilling av skipsreder Mathiesen ved urpremieren på Nordahl Griegs Vår ære og vår makt 1935.
Karl Bergmann var gjesteinstruktør ved Trøndelag Teater da teaterets sjef, Henry Gleditsch, ble henrettet 6. oktober 1942, og påtok seg, på oppfordring fra de ansatte, lederansvaret for teatret. Men han ble relativt raskt avsatt av myndighetene. 1944 kom han på kant med ledelsen for DNS og sa opp sin stilling. Han søkte om reengasjement året etter, men fikk avslag. Han gjestet imidlertid teateret hyppig både som instruktør og som skuespiller, og bekreftet stadig sin store skuespillerbegavelse.
1952 ble Jan Herwitz gitt som beneficeforestilling for Karl Bergmann da han fylte 70 år; ni år senere tok han, i anledning sitt 60 års jubileum som skuespiller, endelig avskjed med sin Bøschen, som han hadde spilt siden 1913.
De siste årene brukte han til å skrive sine erindringer: ca. 40 artikler i Bergens Tidende, og 1962 medvirket han i Radioteatrets presentasjon av Mot solnedgang.