Ole Michael Selberg var først og fremst skolemann – lærer, overlærer og rektor, men han studerte realfag i voksen alder og tok doktorgraden i matematikk.
Selbergs første utdanning etter folkeskolen var Stord Seminar, hvor han gikk 1898–1900. Etter to år som lærer tok han middelskoleeksamen og deretter examen artium 1904 ved Hambros skole i Bergen. Deretter var han lærer i folkeskolen noen år før han 1914 begynte på realfagstudiet ved universitetet i Kristiania. Han ble cand.real. 1918 med matematikk som hovedfag. Han fortsatte sine studier i matematikk og ble 1925 dr.philos. ved universitetet i Oslo med avhandlingen Ein Beitrag zur Theorie der algebraisch auflösbaren Gleichungen von Primzahlgrad.
Selbergs yrkesmessige innsats ble først og fremst i skolen. Frem til 1908 arbeidet han i folkeskolen i Kvinnherad, Evanger, Alvøen og Sogndal. 1908 kom han til Langesund, hvor han senere ble overlærer og bestyrer for middelskolen. 1917–20 var han ansatt ved Voss Landsgymnas. Etter et år som direktør i Gjensidiges vestlandsavdeling vendte han 1921 tilbake til skoleverket som lektor ved Bergen kommunale middelskole. 1932 ble han konstituert og senere fast ansatt som rektor ved Gjøvik kommunale høiere almenskole.
Under den annen verdenskrig var Selberg medlem av Nasjonal Samling. Han kom imidlertid i opposisjon til NS-myndighetene og ble 1944 avsatt fra sin stilling som rektor.
Selberg var en meget aktiv skolemann, og det lyktes ham å få innført en rekke nyordninger der han arbeidet, bl.a. utvidet lesetid, forbedrede lærerlønninger, statsstøtte og skolebygninger.
Matematisk sett er Selbergs doktoravhandling hans hovedarbeid. Noen mindre arbeider kom etterpå og ble trykt i Archiv for Mathematik og Norsk matematisk tidsskrift. Med en stor familie – 9 barn – og en travel hverdag i skolen, var det nok vanskelig å få tid til å dyrke de vitenskapelige interesser. Alle hans fem sønner og tre av døtrene tok examen artium. Tre av sønnene – Henrik, Sigmund og Atle – ble professorer i matematikk og tok doktorgraden ved Universitetet i Oslo liksom sin far. Sønnen Arne ble professor ved NTH i statikk, senere i stålkonstruksjoner.
Selbergs store interesse for matematikk gjorde at han anskaffet en betydelig matematisk boksamling, som nok var med til å stimulere hans sønners interesse for matematikk. Denne boksamlingen ble senere av familien gitt til Matematisk Institutt ved Universitetet i Trondheim (NTNU).