Googles CEO indrømmer, at AI-oversigtsfunktionen har et "hallucinations"-problem

Googles nyligt introducerede AI-oversigtsfunktion, der er designet til at give resuméer øverst på søgeresultatsiderne, er blevet kritiseret for at sprede forkerte og mærkelige oplysninger. I et nyligt interview erkendte Googles CEO Sundar Pichai, at der er et alvorligt problem med den nye AI-oversigtsfunktion, som er designet til at give korte resuméer øverst i søgeresultaterne.

Her er, hvad vi ved

Brugere er stødt på unøjagtige og til tider absurde oplysninger fra funktionen. Eksemplerne omfatter råd om at bruge lim til at lime ost på pizza og om at tilskrive eksperter falske påstande. Pichai forklarede, at sådanne "hallucinationer" er resultatet af fejl i de store sprogmodeller, der bruges i AI Overview. På trods af Google-ingeniørernes indsats er problemet stadig uløst, men Pichai hævder, at funktionen stadig kan være nyttig og bemærkede en forbedring af nøjagtigheden sammenlignet med sidste år.

Kritik fra brugere og eksperter som AI-konsulent Britney Mueller har understreget de høje forventninger til AI-nøjagtighed og de risici, der er forbundet med en for tidlig implementering. Fejl i AI-oversigten har skabt utilfredshed på internettet og kan underminere troværdigheden af Googles søgemaskine.

På trods af Pichais optimisme understreger de igangværende fejl behovet for yderligere AI-forbedringer og vigtigheden af at afbalancere innovation med brugernes tillid. Forbedring af AI's nøjagtighed og pålidelighed er fortsat en prioritet for at forhindre spredning af misinformation.

Kilde: ITHome