Konrad Nielsen var professor i finsk-ugriske språk ved universitetet i Kristiania/Oslo i 35 år. Han utgav flere grunnleggende arbeider om samisk språk, bl.a. en ordbok i tre bind, og var mye brukt som konsulent på norsk-samiske forhold.
Nielsen tilbrakte de første barneårene i Vik på Helgeland, men familien flyttet til Bodø da han var 8 år gammel. Oppveksten i Nord-Norge kom til å prege hans senere vitenskapelige virke. Han tok examen artium på latinlinjen 1892 og begynte – etter mye tvil – å studere teologi 1894. Etter bare 2 1/2 års studier ble han cand.theol. høsten 1896 og tok praktisk-teologisk eksamen året etter. Han valgte likevel å satse på filologien, og tok eksamen i kvensk høsten 1897 og i samisk våren 1898. Studieåret 1898/99 oppholdt seg han ved universitetet i Helsingfors, der han studerte finsk.
Etter et halvt års studieopphold i Nord-Norge ble Nielsen utnevnt til dosent i lappisk og kvensk ved universitetet i Kristiania fra 1. juli 1899. Han tok fil.lic.-graden ved universitetet i Helsingfors 1903, og samme år disputerte han for den filosofiske doktorgrad der på avhandlingen Die Quantitätsverhältnisse im Polmaklappischen. Under en såkalt “rekreationsreise” til bl.a. Tyrkia vinteren 1903–04 utvidet han sine språkkunnskaper. I Konstantinopel (Istanbul) tok han timer i tyrkisk, og sommeren 1904 lærte han seg ungarsk i Budapest. De påfølgende somrene hadde han studieopphold i begge disse byene.
1911 ble Nielsen utnevnt til ekstraordinær professor i finsk-ugriske språk ved universitetet i Kristiania, med særlig forpliktelse til å undervise i kvensk og samisk. Denne stillingen innehadde han til han gikk av med pensjon 1946, avbrutt av et par lengre permisjoner (bl.a. 1930–43) for å drive forskning eller på grunn av offentlige oppdrag. I sitt virke som universitetslærer fikk Nielsen stor nytte av sine teologiske kunnskaper, da mange av studentene hans var prester som skulle tjenestegjøre i de nordlige fylkene. Men der undervisningen tidligere hadde tatt utgangspunkt i bibeltekster og katekisme, fjernt fra samisk dagligtale, la Konrad Nielsen opp til en praktisk språkopplæring i pakt med tiden og menighetens behov. Han oversatte også Den norske kirkes alterbok til samisk og finsk (1926) og den kirkelige tekstboken til samisk (1927).
Størst betydning fikk imidlertid Nielsens Lærebok i lappisk i tre bind (1926–29) og Lappisk ordbok, der han selv fullførte de tre alfabetiske bindene (1932–38), mens den systematiske delen og et supplementbind ble utgitt etter hans død. Nielsen bygde i sitt arbeid på Knut Leems ordbok fra 1750-årene og sin forgjenger, professor J. A. Friis' ordbok fra 1887; begge var læremestere han holdt høyt og aldri unnlot å nevne, men Nielsen videreutviklet så vel den “lappiske” grammatikk som en konsekvent rettskrivning.
I tillegg til sin forskningsinnsats utførte Konrad Nielsen en betydelig innsats for samisk språk og kultur i sin alminnelighet. Han studerte samiske stedsnavn for Norges Geografiske Oppmåling, hadde oppdrag for Forsvaret og satt i Reinbeitekommisjonen av 1913, som avgav sin innstilling 1917. Den norsk-svenske reinbeitekommisjonen holdt i disse årene til på “nøytral” grunn i København, der Nielsen møtte sin senere hustru. Det var Konrad Nielsen som oversatte loven om reindrift til samisk (1935). Han var eksperten på alt som hadde med norsk-samiske relasjoner å gjøre, og ble alltid konsultert, noe som ifølge ham selv gikk ut over hans vitenskapelige produksjon. Han var en desto mer aktiv bidragsyter til den faglige debatt med en rekke artikler i internasjonale tidsskrifter og deltakelse på språkforskerkongresser.
Nielsen var medlem av Videnskabsselskabet i Kristiania (nå Det Norske Videnskaps-Akademi) fra 1904 og var medlem av det ungarske vitenskapsakademi og språklige og litterære selskaper i Finland. Han ble æresdoktor ved universitetet i Tartu (Estland) 1932, ble utnevnt til ridder av 1. klasse av St. Olavs Orden 1946 og var kommandør av Finlands Vita Ros, den estiske Ørneorden og den ungarske Pour le Mérite samt ridder av den svenske Nordstjärneorden.
Privat var Konrad Nielsen en pasjonert hobbygartner med særlig interesse for eksotiske blomster, som han brakte hjem til hagen på Vettakollen fra studiereiser i land med finsk-ugriske språk og dialekter.