Bergingeniør Knud Olsen arbeidet ved kobberverkene på Røros og Folldal som overstiger og proviantskriver. Han gjorde en samfunnsbyggende innsats som den første ordfører på Røros og som mangeårig stortingsmann. Spesielt var han opptatt av næringsliv og samferdsel. Han var en pådriver for Rørosbanen, som ble åpnet to år før hans død.
Allerede etter sin konfirmasjon 1818 ble Olsen regnskapsfører ved bygningsvesenet ved Røros kobberverk, der hans far var materialforvalter. Kobberverket sørget for guttens fagutdannelse, og han utmerket seg under opplæringen til bergkadett. Ledelsen gav ham stipend til reiser og studier 1822–25 ved svenske bergverk, der han blant annet oppholdt seg ved kobberverket og bergskolen i Falun. Senere fikk han stipend til studiereise til Tyskland og Sverige 1839–40.
1821 fulgte han faren til Kongsberg for å studere kruttfabrikasjonen ved sølvverket, og han arbeidet siden for å bedre kruttproduksjonen ved kobberverket. Tilbake fra Sverige 1825 foreslo han å ta i bruk dampmaskin ved gruvene og dampbåt på Femunden. Ved gruvene arbeidet han med å lage et nytt kartverk, med tekniske endringer og nytt arbeidsreglement. Han ble konstituert som overstiger 1827. 1829–33 var han overstiger ved Folldal kobberverk, som var eid av Røros-verket. 1833–51 var han overstiger og marksjeider (gruvemåler) på Røros, og ble deretter proviantskriver. Etter konflikter med ledelsen ønsket den nye proviantskriveren seg raskt tilbake til sine kjære gruver, men han søkte forgjeves overstigerstillingen igjen da den ble ledig. Han ble likevel fortsatt tilknyttet gruvene som kontrollør og rapporterte direkte til styret. Olsen var i tillegg skoginspektør for skogene som hørte under kobberverket 1858–73.
Knud Olsen var aktiv i det offentlige liv. Han var den første ordfører på Røros 1838–45, forlikskommissær 1839–42, og han var med på å grunnlegge Røros Sparebank 1842 og var medlem av direksjonen der til 1876. Gjennom 40 år var han valgmann for stortingsvalgene, og han representerte Søndre Trondhjems amt på Stortinget ved alle stortingssamlinger 1842–58 unntatt 1851. På Stortinget satt han i Næringskomité nr. 1, der han fungerte som sekretær. Han var medlem av kommisjonene til undersøkelse av Kongsberg sølvverks drift 1851 og til utarbeiding av forslag til ny skoglov 1858, samt av spesialkomiteen for stortingsbygningen 1857. Han deltok også i kommisjoner til revisjon av matrikkelen.
Utbygging av samferdsel var en viktig del av samfunnsutviklingen på 1800-tallet, og Olsen engasjerte seg i både vei- og jernbaneutbygging. Da han var i Folldal, fikk han bygd en ny vei der, og han fremmet forslaget om Mellomriksveien som fra 1851 ble bygd fra Røros over Brekken til Sverige. Da det skulle bygges jernbane som forbandt Oslo med Trondheim, kjempet Olsen energisk for at banen skulle gå om Røros og ikke om Kvikne. Etter flere års dragkamp og en flere dagers intens debatt vedtok Stortinget 1872 Rørosbanen, som ble åpnet 1877. Knud Olsen er kalt “Rørosbanens far”.
Knud Olsen var en sentral skikkelse på Røros. Han var høyt respektert både i lokalbefolkningen og blant kobberverkets eiere.