Sparre Olsen er en av 1900-tallets fremste norske komponister. Hans musikk kjennetegnes av en vakker melodikk med røtter i norsk folketone, mens han på harmonikkens område viderefører den sene Grieg-tradisjonen.
Sparre Olsens barndomshjem var fylt av musikk; moren sang og hans eldre bror spilte klaver. Norske folketoner og Nordraak- og Grieg-romanser ble hans første musikalske inntrykk. Da han var ett år gammel, flyttet familien til København, men bosatte seg i Kristiania 1909. Her avla Sparre Olsen middelskoleeksamen 1919 og handelsskoleeksamen 1920, etterfulgt av en stilling et års tid som kontorist i et inkassobyrå. Han begynte å spille klaver 7 år gammel, men fra 1922 studerte han fiolin med Herman van der Vegt. 1923–30 var han fiolinist i Willy Johansens orkester på Grand Café i Oslo samtidig som han frem til 1926 studerte teori hos Ole Hjellemo og Bjarne Brustad; Fartein Valen var hans lærer 1926–30. Sommeren 1930 reiste Sparre Olsen med Olaf Schous legat til Berlin for å studere ved Akademische Hochschule für Musik og med Max Butting; samtidig fulgte han forelesninger med Arnold Schönberg og Paul Hindemith. I Berlin traff han pianistinnen Edith Davidsen, som han giftet seg med 1932.
Tilbake i Oslo spilte han et års tid i orkesteret på Theatercaféen, men flyttet 1933 til Bergen. Her var han teorilærer ved Musikkakademiet 1934–40, musikkanmelder i Bergens Tidende 1935–40 og dirigent for Bergens Arbeiderforenings Sangforening 1935–39. Under en reise til London 1936 møtte han Percy Grainger og studerte en kort tid med ham. Samme år bevilget Stortinget ham komponistgasje.
Etter at krigen brøt ut 1940, flyttet Sparre Olsen til Olden i Nordfjord. Her bodde han frem til 1947, da han slo seg ned i Leitom i Gausdal og bodde der inntil han 1966 bosatte seg i Lillehammer. 1969 døde hans første kone etter lengre tids sykdom. Året etter giftet han seg med Astrid Almestrand.
Allerede i op. 2, Seks gamle bygdevisur frå Lom for klaver, viser Sparre Olsen det som skulle bli det karakteristiske kjennetegn ved hans stil. Visene er et resultat av møtet med dikteren Olav Aukrust og hans dikt Himmelvarden. “Det slo ned i meg som et lyn og gjorde det klart for meg hvor jeg hørte heime” – i det norske musikalske jordsmonn. Det er imidlertid ingen oppblåst demonstrativ nasjonalisme vi finner i hans musikk, heller “en kjær, hjemlig stemningsverden”. Sparre Olsens beundring for Olav Aukrusts diktning og vennskapet dem imellom samt med en rekke andre diktere – Tor Jonsson, Aslaug Vaa, Inge Krokann, Tore Ørjasæter og Jan Magnus Bruheim – inspirerte ham til å beskjeftige seg med vokalkomposisjon gjennom hele livet.
Et resultat av studiene i Berlin var Kleine Ouverture für kleines Orchester, op. 7, som viser at han til fulle behersket orkesterets uttrykksmidler. I Berlin ble han også påvirket av Hindemiths “Gebrauchsmusik” og elementer fra Arnold Schönberg: “Jeg lærte en god del, enkelte ting er blitt utløst for meg gjennom den atonale musikken. Men jeg er altfor mye tonal, ihvertfall bitonal. Jeg setter toneartene opp mot hverandre i linjespill.”
Etter berlinoppholdet gav Sparre Olsen seg i kast med større verker og former. På oppfordring av Olav Aukrust gikk han i gang med å tonesette Draumkvedet. Han benyttet en del av Lindemans melodimateriale og skapte et stort dramatisk verk for resitasjon, solo, kor og orkester. Det ble komponert 1936 og prisbelønnet av Musikkselskapet Harmonien i Bergen, som året etter stod for uroppførelsen. Verkets mange skiftende stemninger ble belyst av Sparre Olsens ulike stilistiske teknikker – organum- og faux-bourdon-teknikken, hyppig bruk av kvintparalleller tydelig inspirert av den instrumentale folkemusikken, melodiføring med tydelig rot i modale tonearter, overraskende og utradisjonelle akkordstrukturer samt en ganske fri dissonansbehandling. Både uroppførelsen og senere oppførelser ble suksesser.
Sparre Olsens produksjon er omfangsrik og dekker de aller fleste områder av musikken. Av orkesterverker kan nevnes tre symfoniske fantasier, Nidarosdomen, Ver sanctum for kor og orkester, Serenade for fløyte og strykere og Concertino for horn og strykere; av kammermusikkverker kan nevnes en strykekvartett og en blåsekvintett. Viktig er også flere suiter for klaver – to med tittelen Frå Telemark og Leitom-suite. Hertil kommer en mengde solosanger med klaver i tillegg til utallige korsanger.
Sparre Olsen var 1950–58 medlem av Kringkastingsrådet, der han gjorde en betydelig innsats. 1968 ble han utnevnt til ridder av 1. klasse av St. Olavs Orden.
Sparre Olsen døde 1984. Hans urne er satt ned ved Lom stavkirke. På graven står en stein han selv har tegnet med de første tonene av hans kjente sang Du salme i skogen inngravert.