chatbot

Forskning på det som i dag kalles chatbots startet allerede på midten av 1900-tallet, i takt med den økende utviklingen av datamaskiner. Interessen for maskiner som kan snakke og interagere med mennesker er mye eldre, men det er først med den digitale datamaskinen at man ser fremveksten av noe som kan minne om dagens chatbots.

Et kjent eksempel er programmet ELIZA, utviklet av Joseph Weizenbaum ved MIT på 1960-tallet, som forsøkte å etterape en psykoterapeut. ELIZA, og andre samtidige chatbots, baserte seg i all hovedsak på statiske regler og setningsmaler, der brukernes svar og spørsmål ble forsøkt plassert i kategorier som utviklerne på forhånd hadde bestemt en passende type respons for.

Ettersom en samtale ofte inneholder flere avbrekk, ufullstendige setninger og hyppige bytter mellom hvem som fører ordet, er det utfordrende å formulere regler som tar høyde for alt. Likevel fungerte det overraskende bra, selv om metodene i dag blir sett på som nokså enkle.

ELIZA har blant annet gitt navn til et fenomen kjent som 'ELIZA-effekten', som beskriver tendensen mennesker har til å tilskrive menneskelige egenskaper til datamaskiner med en gang de produserer symboler og tegn som kan minne om noe et menneske ville ha gjort, selv om prosessen bak ikke har noe menneskelig ved seg. ELIZA-effekten er dermed et eksempel på antropomorfisme.

Med fremveksten av metoder innen forskningsfeltet kunstig intelligens, og da særlig maskinlæring, har fleksibiliteten og kvaliteten på chatbots blitt høyere. Bruken av chatbots i kommersielle løsninger har derfor blitt stadig mer utbredt.

I dag er de fleste chatbots basert på en språkmodell. Dette er statistiske modeller som ved hjelp av maskinlæringteknikker som nevrale nettverk er trent på store mengder tekstdata, som regel hentet fra internett. Språkmodellen brukes deretter som en generell representasjon av språket, slik at det er mulig å generere løpende tekst som ser og virker naturlig ut.

For å få modellen til å svare på forespørsler fra brukere, og på den måten bli en chatbot, finnes det ulike teknikker. Fordi språkmodellene er trent på store mengder tekst, er det også nødvendig å filtrere ut uønskede ord og fraser for å unngå at det blir generert støtende innhold. På grunn av størrelsen og kompleksiteten til disse modellene er dette en komplisert oppgave, og det er et forskningsfelt som er svært aktivt.

Fordi nyere chatbots er basert på språkmodeller, arver de også mange av de samme problemene som disse modellene er kjent for:

• Håndtering av personvern og etiske spørsmål knyttet til datainnsamling og bruk er aktuelle utfordringer som kan komme til å kreve fornyelse av lovverket.

• Dagens modeller kan komme til å gjengi upassende innhold og generere tekst som kan virke støtende eller fremvise skjevhet med tanke på kjønn, etnisitet eller religion.

• Innholdet i den teksten som genereres, behøver heller ikke å være korrekt eller å ha noen rot i virkeligheten, til tross for at den er formulert med det man selv oppfatter som overbevisende språk.

Produktet ChatGPT, utviklet av det amerikanske firmaet OpenAI, har fått mye oppmerksomhet i 2023, også i Norge. Chatbots som ChatGPT lar brukere stille spørsmål om nesten hva det skal være, og så genererer den på få sekunder en tekst som virker naturtro og kan passe inn i mange ulike type sjangere. Dette gjør det blant annet mulig for elever og studenter å generere svar på mange slags oppgaver som de skal skrive, og dette har skapt mye offentlig debatt.

Etterhvert som chatbots blir tatt i bruk i flere og flere applikasjoner, for eksempel i søkemotorer og som støtteprogrammer for skriving, er det viktig å være klar over at chatbots er programvareprodukter, ofte utviklet av kommersielle selskaper, og at de derfor ikke på noen måte er verdinøytrale eller er ment å gjenspeile en objektiv virkelighet.

Ved et tradisjonelt nettsøk vil man kunne se hvor informasjonen er hentet fra, og på den måten kan man validere kilden man leser. Om man stiller det samme spørsmålet til en chatbot, har man ikke den samme muligheten til å validere informasjonen. Det er også viktig å huske at en chatbot ikke «forstår» teksten den selv genererer, og heller ikke hva det er brukeren spør om. En chatbot genererer bare tekst som er sannsynlig, gitt de treningsdataene som ble brukt til å lage den underliggende språkmodellen.

• språkmodell
• kunstig intelligens
• språkteknologi