Hva er egentlig kjernen i AI?

AI høres ofte mer mystisk ut enn det er. En moderne språkmodell er i bunn og grunn en enorm matematisk modell — og når du forstår hvordan den fungerer, forstår du også både hva den er god til og hvor den feiler.

Mindre mystisk enn det høres ut

Når folk hører ord som språkmodell, kunstig intelligens, nevrale nettverk og maskinlæring, er det lett å se for seg noe nesten menneskelig. En digital hjerne som «tenker» fritt og vet ting på samme måte som oss.

Virkeligheten er både enklere og mer imponerende.

En moderne språkmodell er i bunn og grunn en enorm matematisk modell. Den består av veldig mange tall, kalt vekter eller parametere, som er justert gjennom trening. Når modellen får tekst inn, bruker den disse tallene til å regne ut hva som sannsynligvis bør komme videre.

Det betyr ikke at modellen har en database inni seg med alle fakta den kan. Den har ikke en mappe som heter «Wikipedia» eller «kundeservice» lagret i hodet. Den har lært mønstre fra store mengder tekst.

Fra tekst til tall

For at en AI-modell skal kunne jobbe med språk, må tekst først gjøres om til tall.

Setningen «Hvordan returnerer jeg en vare?» blir delt opp i mindre biter, ofte kalt tokens. Det kan være hele ord, deler av ord eller tegnkombinasjoner. Disse tokenene får hver sin ID, og modellen jobber videre med tallene.

Deretter går tallene gjennom mange lag med beregninger. Hvert lag prøver å finne sammenhenger:

• Hvilke ord hører sammen?
• Hva handler spørsmålet om?
• Hvilken type svar forventes?
• Hvilken informasjon er mest relevant?

Til slutt produserer modellen sannsynligheter for neste token. Så velges et token, legges til svaret, og prosessen gjentas helt til svaret er ferdig.

Det er slik en språkmodell skriver. Ikke ved å hente et ferdig svar fra en tabell, men ved å generere teksten steg for steg.

Hvordan lærer modellen?

Under trening får modellen enorme mengder tekst. Den får se en bit av teksten og forsøker å gjette hva som kommer etterpå.

Eksempel: «Oslo er hovedstaden i …»

Hvis modellen gjetter feil, beregnes en feilscore. Deretter justeres vektene litt. Ikke mye. Bare bitte litt.

Dette gjentas millioner og milliarder av ganger.

Over tid blir tallene i modellen bedre justert. Den lærer grammatikk, stil, fakta, mønstre, kode, struktur og vanlige måter mennesker forklarer ting på.

Det er dette som blir «kjernen» i modellen.

Hvorfor svarer AI noen ganger feil?

Fordi modellen ikke egentlig vet hva som er sant på samme måte som et menneske gjør.

Den lager et sannsynlig svar basert på mønstre. Ofte er det riktig. Noen ganger er det feil. Problemet oppstår når svaret høres selvsikkert ut, selv om grunnlaget er svakt.

Dette kalles ofte hallusinasjon.

For vanlige spørsmål er det kanskje ikke så farlig. Men for kundeservice kan det være alvorlig. En chatbot bør ikke finne på returregler, priser, åpningstider eller garantivilkår.

Derfor bør en bedriftschatbot ikke bare bruke AI-modellens generelle kunnskap. Den bør kobles til bedriftens egne dokumenter.

Hvorfor RAG er viktig

RAG betyr at chatboten først søker i dokumentasjonen din, og deretter bruker AI-modellen til å formulere et svar basert på det den fant.

I praksis betyr det:

1. Kunden stiller et spørsmål.
2. Systemet søker i bedriftens kunnskapsbase.
3. Relevante avsnitt hentes frem.
4. AI-modellen får både spørsmålet og avsnittene.
5. Svaret skrives med utgangspunkt i kildene.

Forskjellen er stor.

Uten RAG må modellen gjette ut fra det den har lært før. Med RAG får den slå opp i dokumentasjonen før den svarer.

Det gjør svaret mer presist, lettere å oppdatere og enklere å kontrollere.

AI-modellen er motoren — dokumentasjonen er drivstoffet

En god AI-chatbot består ikke bare av en språkmodell.

Den består av flere deler:

• en språkmodell som forstår og formulerer tekst
• en søkemotor som finner relevant dokumentasjon
• en kunnskapsbase som bedriften kan vedlikeholde
• regler for når chatboten skal svare
• regler for når den skal si «jeg vet ikke»
• logging og tilbakemeldinger som viser hva som fungerer

Hva betyr dette for norske bedrifter?

Det betyr at man ikke trenger å trene en egen AI-modell fra bunnen av for å få nytte av AI.

For de fleste bedrifter er den beste løsningen å:

• samle eksisterende dokumentasjon
• strukturere vanlige spørsmål og svar
• bruke en språkmodell sammen med RAG
• teste chatboten på ekte kundehenvendelser
• måle hva den svarer godt på og hva den ikke dekker

AI er ikke magi. Det er heller ikke bare hype.

Det er en kraftig teknologi som blir nyttig først når den kobles til riktig informasjon, tydelige rammer og et konkret problem.

For kundeservice er målet enkelt: Kunden skal få raskere svar. Teamet skal få færre repetitive spørsmål. Og chatboten skal heller si «jeg vet ikke» enn å finne på noe.

Det er der AI går fra imponerende demo til faktisk nyttig verktøy.