Rasmus Kieldsøn er først og fremst kjent som “den onde amtmann” i Finnmark, som ble avsatt fra embetet etter at han kom i konflikt med lokalbefolkningen. Dette bildet er senere blitt mer nyansert.
Kieldsøn ble student 1717. To år senere ble han assistent ved revisjonen av en del eldre regnskaper under Rentekammerets norske sønnafjelske kontor, og 1725 overtok han revisjonen av disse regnskapene samt en del regnskaper under det norske sønnafjelske tollkontor. Ved endt oppdrag 1733 klaget han over at han var blitt lønnet lavt; han ble da lovt en passende offentlig stilling når mulighetene bød seg. I mellomtiden drev han med vin- og brennevinshandel og var også skipsparthaver, men ble dømt fallitt 1734. For å unngå arrest flyktet han ut i provinsen. 1737 ble han dømt til en betydelig utbetaling samt til dekning av prosessens kostnader. Tross de økonomiske omstendighetene var han rådmann i København fra 1734 til 1737, da han etter søknad ble fritatt for vervet, igjen med løfte om stilling ved leilighet.
Da amtmann i Finnmark Henrik Frimann døde 1738, søkte Kieldsøn stillingen, men før han tiltrådte, måtte han gå med på å avstå 200 riksdaler av den årlige gasjen som avdrag på sin gjeld. Summen utgjorde nesten halve gasjen og kan nok forklare Kieldsøns private økonomiske interesser i Finnmark.
Kieldsøn ble amtmann i en vanskelig økonomisk tid for Finnmark, som siden 1681 hadde vært underlagt et strengt handelsmonopol som ledd i den danske helstatspolitikken. Systemet førte bl.a. til en utstrakt ulovlig handel, især med russerne (pomorene), og Kieldsøn fikk i oppdrag å arbeide for at handel og økonomi i Finnmark utviklet seg gunstig.
Amtmannen i Finnmark hadde bodd på festningen i Vardø, men da ny festning ble bygd, skulle kommandanten overta amtmannsboligen. Kieldsøn kunne dermed selv bestemme hvor i amtet han ville bo. Han valgte Alta, trolig fordi han så de økonomiske mulighetene i furuskogen der. Amtmannsgården Altagård ble bygd nær munningen av Altaelva, og Kieldsøn holdt stort hus med opptil 30 tjenestefolk, nordmenn så vel som samer og kvener.
Kieldsøn utviste en omfattende økonomisk interesse, samtidig som han gjennomførte de påbudte reguleringer av den lokale næringsvirksomheten. Han bygde og drev amtets første sagbruk og mølle i Alta. Han kom stadig i konflikt med lokalbefolkningen om utnyttelse av skogen og om laksefiske, håkjerringfiske, beitemark, handel med svenske handelsborgere fra Tornedalen osv. Hovedmotstanderen var Knud Olsen Kven, som Kieldsøn fikk dømt og forvist til fiskeværet Omgang. Knud stakk imidlertid av og drog til fots til København (1747–48) for å legge saken frem for kongen. Denne reisen og Knuds fortsatte kamp, som dels fikk støtte fra prest og fogd, bidrog uten tvil til at Kieldsøn ble avsatt i august 1750.
Kieldsøns eiendeler ble solgt på auksjon for å dekke hans personlige gjeld. Han ble vinteren over hos prosten i Alta, og sommeren 1751 drog han med et handelsfartøy til Amsterdam. Her er hans siste brev datert 1753, som er antatt å være hans dødsår.
Den lokale tradisjonen har tegnet et sterkt negativt bilde av “han Kjelds” som en utro kongens tjener som utnyttet sin stilling til personlig gevinst, som forsøkte å hindre lokalbefolkningens rettmessige næringsvirksomhet, og som utnyttet sin stilling seksuelt. Hit hører fortellingen om Knud Olsen Kven, som klarte å få kongen på sin og allmuens side. I andre kilder er Kieldsøn skildret som en trofast kongens tjener, som forsøkte å følge sin embetsinstruks i et fjerntliggende område med store økonomiske og politiske problemer, en oppgave han mislyktes med på grunn av selvrådige kvener som ikke fant seg i statens lover og regler. I senere tid er Kieldsøn blitt fremstilt som forsvareren av samenes nedarvede rettigheter mot kvenene, som måtte gi tapt overfor kvenenes pågang og den nye tids krav om bofaste bønder også i Finnmark. I bygdeboken for Alta fremgår det imidlertid at samene og kvenene oftest stod sammen mot Kieldsøn, som lot sine private økonomiske interesser komme i første rekke. I hans siste embetsår var trolig dømmekraften hans også svekket av sykdom og mental nedbrutthet.