Tillägget finns redan i USA, och innan årets slut kommer det att ha implementerats för mer än en miljard användare globalt, skriver The Verge. Fördelen är uppenbar: Det går snabbare för användaren att hitta svaret på sina frågor. 

Nackdelen är att informationen inte går att lita på.

Tipset: Limma pizzaosten

Måns Jonasson är internetexpert på oberoende Internetstiftelsen. Han är skeptisk till ”AI Overviews”, eftersom språkmodellen i dagsläget har väldigt svårt att generera korrekt information. Anledningen är att den hämtar data från alla möjliga sajter, för att sedan generera svar enligt en sannolikhetsbedömning. Och det är, som vi vet, inte alla hemsidor som är lika tillförlitliga.

– Människor säger ju knäppa saker på nätet också, för att luras och trolla och skoja om allt möjligt. Och det är svårt för en språkmodell att skilja på det. Därför svarar den ganska ofta helt uppåt väggarna, säger Måns Jonasson.

När en så kallad språkmodell genererar falska svar kallas det att den ”hallucinerar”. Ett exempel som blivit viralt är AI Overviews svar på frågan vad man ska göra åt ost som glider av en pizza när man äter den. Språkmodellens förslag: ”Lägg på lite lim.”

Måns Jonasson anser att det största problemet med tekniken som den fungerar idag är att desinformation riskerar att spridas omedvetet av Googles användare. För vad händer om en hallucination inte är lika uppenbart hallucinatorisk som i exemplet ovan?

– Det kan ju vara ett felaktigt svar kring vad en viss politiker har velat eller vilket parti som står för en viss åsikt – saker som är så pass trovärdiga att man inte bekymrar sig om att gå vidare och undersöka dem.

Lager på lager av ”hittepå”

AI Overviews inkluderar länkar till sidor där användaren kan fördjupa sig i det aktuella ämnet, men Internetstiftelsens undersökningar visar att folk är relativt dåliga på att klicka sig vidare när de upplever att de har fått ett svar. Eftersom källan inte framgår omedelbart i samband med svaret, finns det därför en risk att källkritiken blir lidande, säger Måns Jonsson.

– Som användare bör man vara mån om att få informationen direkt från källan, för att vara säker på att den är tagen i rätt kontext. Det spelar egentligen inte så stor roll om svaret är rätt, om man inte vet varifrån det kommer, och varför någon har svarat på det sättet.

Källproblematiken fördjupas dessutom av att internet svämmas över att AI-generat spam, något som enligt en tysk forskningsstudie lett till att Googles sökresultat har blivit sämre. Det här är en tendens som bara kommer att öka i styrka, säger Måns Jonasson. 

– Och det vi kommer att se mer av då, är AI som summerar annan AI-genererad text. Det blir ytterligare ett lager av ”hittepå”. 

Är alltså språk och intelligens samma sak? Frågan sätter fingret på något angeläget: tillgången till korrekt och relevant fakta. Och den AI som det här är frågan om, språkmodeller, är maskiner byggda för att skapa språk så bra som möjligt, säger Måns Jonasson. Språk, inte nödvändigtvis fakta.

The Verges chefredaktör Nilay Patel säger: 

– Jag undrar om intelligensen ökar i samma takt som språkförmågan. Jag ser det liksom inte, om jag ska vara helt ärlig. Jag ser att datorer blir mycket bättre på språk och i vissa fall faktiskt blir dummare. 

”Dödsstöt för publicister”

AI-jättar som Google och OpenAI hämtar information från många håll på internet för att träna sina språkmodeller. Det gör de utan att ersätta de som skapat originalinnehållet. Istället finns en tendens att kreatörernas produkter  manövreras ut av billigare, AI-genererade varianter. Det här har resulterat i flera rättsprocesser mellan techjättar och aktörer som menar att de har blivit bestulna på sin egendom. 

Med Googles senaste tillägg ställs konflikten på sin spets. Journalisten John Biggs skriver att AI Overviews innebär ”en dödsstöt för publicister”. För om Google ger svar direkt på hemsidan, och användaren slipper klicka sig vidare för att hitta information, så verkar det troligt att trafiken till andra hemsidor kommer att minska. 

– Som användare tänker man kanske att det här inte spelar någon roll, kommenterar Måns Jonsson.

– Men någonstans måste ju informationen genereras från första början, och försvinner reklamintäkter och andra inkomster så kommer andra hemsidor inte att överleva. Och då får Google också slut på information till slut. 

Nilay Patel tar upp problemet i sin intervju med Sundar Pichai och hävdar att flera mindre företag läcker trafik från sina hemsidor till Google. Utan besökare, varför skulle de fortsätta publicera information på nätet? Google-vdn svarar med att företaget bryr sig om att sökmotorn ska vara ett fungerande ekosystem. Det är i deras eget intresse, påpekar han. 

– Om människor och webbplatsägare över tid inte ser att det kommer något värde från Google, tror jag att vi kommer att få betala priset. Vi har rätt incitamentsstruktur.