Det blir antatt at det danske/svenske navnet kommer av norrønt eysysla (øysyssel). For å knekke de beryktede estiske sjørøverne erobret Valdemar Sejr øya, men de tyske sverdridderne inntok den allerede 1227. Da tsar Ivan 4 i 1558 innledet sine angrep på den livlandske ordensstat, søkte tyskerne beskyttelse hos kong Frederik 2, og derved kom øya igjen under Danmark, som imidlertid måtte avstå den til Sverige ved freden i Brömsebro i 1645. Under Den store nordiske krigen oppgav svenskene Ösel til russerne 1710, og avståelsen ble formalisert ved freden i Nystad 1721. Nesten alle spor etter skandinavenes herredømme ble utslettet under det russiske regimet, bl.a. slo ortodoksien sterke røtter. Saaremaa var besatt av tyske tropper under den første verdenskrig (okt. 1917–des. 1918), og ble en del av den frie estiske republikken i mellomkrigstiden. Som en følge av Molotov–Ribbentrop-pakten i 1939 ble øya sammen med resten av Estland i 1940 okkupert av sovjetiske styrker og innlemmet i Sovjetunionen. Deportasjoner, bl.a. til Sibir, og masseflukt til Sverige førte til at befolkningen i årene 1941–44 ble redusert med nesten en tredjedel. I etterkrigstiden hadde Sovjetunionen store militæranlegg og en strategisk viktig rakettbase på øya.