betegnelse på den matematikken som ble utviklet i antikkens Hellas. Den greske matematiske skolen representerer et av høydepunktene i utviklingen av den greske kulturen. Grekerne arvet mange matematiske resultater fra sine forgjengere egypterne, og særlig fra babylonerne, og de greske matematikerne bygde i stor grad videre på disse kunnskapene. Men det viktigste som ble oppnådd i den greske matematikken er utvilsomt at det for første gang ble utarbeidet et logisk matematisk system, hvor de forskjellige resultatene kan innordnes og hvor en kjensgjerning ved logiske bevis kan avledes av en annen.
Utviklingen av gresk matematikk skjedde ved impulser fra alle deler av Stor-Hellas, men sentrene for utviklingen i de matematiske skolene var Athen og senere Alexandria. Den første greske matematikeren vi kjenner til er Thales fra Milet (ca. 600 f.Kr.), som tillegges forskjellige geometriske satser. Den pythagoreiske skolen, som angivelig ble grunnlagt av Pythagoras fra Samos (ca. 530 f.Kr.), bidrog vesentlig til den systematiske utviklingen av gresk matematikk.
Pythagoreerne beskjeftiget seg med tallteoretiske og numerologiske studier, men den såkalte pythagoreiske sats (om sidene i en rettvinklet trekant) er sannsynligvis av babylonsk opprinnelse. Pythagoreerne ble tidlig klar over eksistensen av irrasjonale tall og forhold, og denne kjensgjerningen ledet dem til å foretrekke en geometrisk formulering og oppfatning av matematiske resultater. Dette er et trekk som er svært karakteristisk for gresk matematikk; mens den nyere geometriske utviklingen gjennom den analytiske geometrien i senere tid har ført til en algebraisk oppfatning av geometrien, kan man si at grekerne omvendt skapte en geometrisk algebra.
Den logiske utviklingen av gresk matematikk skyldes i særlig grad Evdoxos (408–355 f.Kr.). Hans ideer fremtrer klart i oppbyggingen av Evklids Elementer (ca. 300 f.Kr.), som er et av de viktigste verkene i matematikkens historie. Innen den senere geometriske retningen representerer Apollonios' studier over kjeglesnitt (ca. 230 f.Kr.) et høydepunkt.
En særlig stilling innen gresk matematikk inntar Arkhimedes (287–212 f.Kr.). Han representerer en mer regnemessig retning, og hans areal- og volumberegninger gjør ham til en forløper for infinitesimalregningen. Hans anvendelse av Evdoxos' ekshaustionsmetode (utmattelsesmetode) svarer til den moderne anvendelse av grenseoverganger.
Den senere perioden i gresk matematikk er særlig knyttet til Alexandria. Den geometriske skolen forfaller i denne perioden og har få nye resultater å oppvise; en av de få skapende geometere i denne tid er Pappos (ca. 300 e.Kr.). Derimot skjer det en utvikling i aritmetisk-algebraisk retning, sannsynligvis under påvirkning av babylonsk matematikk. I den forbindelse må spesielt nevnes Diofantos (200 e.Kr.), som undersøker de diofantiske eller ubestemte ligninger. Hans verker har betydning også fordi han forsøker å innføre et mer systematisk algebraisk tegnspråk.
I denne perioden finner man også en utvikling av den beregnende geometrien; en av de mest fremtredende representanter for denne retning er Heron (ca. 250 e.Kr.). Under påvirkning av astronomien skapes regnemetoder som svarer til den nåværende trigonometrien, og kordetabeller svarende til tabeller over de trigonometriske funksjonene blir beregnet. Slike tavler ble alt beregnet av Hipparkhos (ca. 140 f.Kr.), men særlig av Ptolemaios (ca. 140 e.Kr.), som ofte regnes som trigonometriens grunnlegger. Se for øvrig geometri for mer om geometriens utvikling.