Innsikt
Eliza-effekten: Faren ved at det "høres riktig ut"
Hvorfor vi stoler mer på en glatt løgner enn en stotrende ekspert.
I 1966 lagde Joseph Weizenbaum ved MIT en enkel chatbot kalt ELIZA. Den gjorde nesten ingenting - den bare snudde brukerens setninger til spørsmål.
"Jeg er trist i dag" ble til "Hvorfor er du trist?"
"Min mor er vanskelig" ble til "Fortell meg mer om din mor."
Enkelt. Dumt, egentlig. Men noe rart skjedde.
Weizenbaums sekretær begynte å betro sine dypeste hemmeligheter til maskinen.
Hun ba Weizenbaum forlate rommet for å få "privatliv" med ELIZA. Hun visste det var kode. Men følelsen av å bli forstått var for sterk.
Dette er Eliza-effekten
Eliza-effekten er vår tendens til å tillegge datamaskiner menneskelige egenskaper som forståelse, empati og logikk - bare fordi de kan sette sammen ord i riktig rekkefølge.
Vi er koblet til å tolke flytende språk som tegn på intelligens. Tusenvis av år med evolusjon har lært oss: "Den som snakker godt, vet mye."
Men den regelen gjelder ikke lenger.
I dag er modellene uendelig bedre
Og det er nettopp det som er farlig.
ELIZA var primitiv. ChatGPT og Claude kan skrive bedre enn de fleste mennesker. De formulerer seg perfekt. De strukturerer argumentene logisk. De høres ut som eksperter.
Fellen er å tenke:
"Det høres riktig ut, så da er det sikkert riktig."
Men AI kan skrive overbevisende løgner like lett som sannheter. Den bryr seg ikke om hva som er sant - den bryr seg om hva som høres riktig ut basert på treningsdataene.
Når grammatikken er perfekt, senker vi garden
Tenk deg to råd:
Råd A (stotrende):
"Eh... jeg tror kanskje... altså, renten kan gå opp? Men det er usikkert..."
Råd B (flytende):
"Basert på makroøkonomiske indikatorer og sentralbankens signaler, forventes en renteøkning på 25 basispunkter i neste kvartal."
Hvem stoler du mest på? De fleste velger B.
Men hva om B er generert av en AI som bare setter sammen ord som statistisk sett "passer sammen" etter setninger om renter? Og A er fra en erfaren økonom som er ærlig om usikkerheten?
Selvsikkerhet er ikke det samme som korrekthet.
Hvordan beskytte deg
Vær skeptisk til perfekte svar
Jo mer polert svaret er, jo viktigere er det å verifisere. Perfeksjon kan være et rødt flagg.
Spør "hvordan vet du dette?"
En god AI-assistent kan vise kilder. Hvis den ikke kan - eller gir vage svar - bør du være varsom.
Sjekk fakta på viktige beslutninger
Bruk AI som utgangspunkt, ikke som fasit. Jo viktigere beslutningen, jo viktigere verifiseringen.
Velg transparente systemer
AI som viser kildene sine er tryggere enn AI som bare leverer polerte svar.
Flytende språk er ikke det samme som fakta.
Derfor bygger vi systemer som viser kildene sine. Solvei er designet for transparens, slik at du kan se hvor svaret kommer fra - ikke bare hvor pent det er formulert.
Møt en AI du faktisk kan stole påBunnlinjen
Weizenbaum ble sjokkert over reaksjonen på ELIZA. Han tilbrakte resten av karrieren med å advare mot å stole blindt på maskiner.
I dag er maskinene tusen ganger bedre til å høres overbevisende ut. Advarselen hans er mer relevant enn noensinne.
Jo bedre AI blir til å snakke, jo viktigere blir det å huske: Forståelse og formulering er to helt forskjellige ting.