Knut Berg var knyttet til Nasjonalgalleriet i 30 år, de siste 22 som direktør. I hans direktørtid økte Nasjonalgalleriets utadrettede og internasjonale virksomhet sammen med dets betydning for forskningsmiljøet.
Han vokste opp i Oslo i en familie hvis omgangskrets bestod av kunstnere, museumsfolk og kunsthistorikere, og han fattet tidlig interesse for kunst og kultur. Etter examen artium 1944 og studier ved Universitetet i Oslo, avla han magistergradseksamen i kunsthistorie 1953. Deretter fortsatte han med stipend sine middelalderstudier i Storbritannia, USA, Italia og Frankrike frem til 1965.
1965 ble Knut Berg ansatt som konservator ved Nasjonalgalleriets Kobberstikk- og håndtegningsamling. Han gjennomførte en total revisjon og systematisering av samlingen og påbegynte katalogiseringen av de utenlandske tegningene. 1967 ble han dr.philos. med avhandlingen Studies in Tuscan Twelfth-Century Illumination. Da Sigurd Willoch gikk av 1973, ble Berg konstituert direktør for Nasjonalgalleriet; 1975 ble han fast ansatt i stillingen. Han fratrådte ved oppnådd aldersgrense 1995.
Med sin faglige tyngde, sine store administrative evner, moderne innstilling til museumsdrift og kjærlighet til billedkunst ble Knut Berg en av sin generasjons betydeligste museumsdirektører i Norge. Han hadde er stort kontaktnett og markerte i løpet av sin direktørtid Nasjonalgalleriet nasjonalt og internasjonalt. Under hans ledelse ble Nasjonalgalleriet en betydelig forskningsinstitusjon, og museets utadrettete virksomhet økte betraktelig i hans direktørtid. Til tross for magre innkjøpsbudsjett foretok Berg viktige innkjøp av norsk og europeisk kunst til museets samlinger.
I samarbeid med europeiske og nordiske museer initierte og gjennomførte Berg utstillinger over norsk og nordisk kunst fra 1800-tallet og tiden rundt 1900. Han realiserte også viktige utstillinger av utenlandske kunstnere, eller epoker i den europeiske kunsthistorie, i Nasjonalgalleriet.
Etter at Statens bygge- og eiendomsdirektorat 1972 hadde gjennomført en åpen arkitektkonkurranse om bebyggelse og utforming av Tullinløkka med henblikk på utvidelse av Nasjonalgalleriet, var det med et berettiget håp om at Nasjonalgalleriets plassproblemer ville løses, at Knut Berg ble konstituert som direktør 1973. Han har uttalt at de første ti år av sin direktørtid viet han til “byggesaken”. Manglende politisk vilje til nybygg på Tullinløkka førte til at han, da sjansen bød seg, gikk inn for opprettelsen av Museet for samtidskunst, som har vært i virksomhet siden 1988.
Som forsknings- og prosjektadministrator sørget Knut Berg for at alle Nasjonalgalleriets store utstillinger hadde en forskningsmessig betydning, og behandlet de viktigste perioder i norsk kunsthistorie eller enkeltkunstnere. Han initierte, ledet og gjennomførte i tillegg store eksterne forskningsprosjekter som Norsk Kunstnerleksikon, som han ledet sammen med riksantikvar Stephan Tschudi-Madsen. Prosjektet involverte hele den norske kunsthistorikerstand og ble gjennomført på rekordtid. Samtidig stod han som hovedredaktør og medforfatter for verket Norges Kunsthistorie.
Knut Berg påtok seg i hele sin karriere store oppgaver innen kulturlivet. Han satt i utallige utvalg, styrer og komiteer og nedla et betydelig arbeid for fortidsvern, fartøysvern og industrivern gjennom sitt årelange engasjement i Norsk Kulturråd og innsats i Selskapet for Oslo Byes Vel.
Med solid faglig integritet, personlig raushet og ubyråkratiske legning så Knut Berg alltid de store linjer i sitt arbeid og fant forbausende enkle og ukompliserte måter å nå målene på.