Microsofts chatbot gav falske oplysninger om valget til Europa-Parlamentet

Microsoft

Forskere har fundet ud af, at Bing-chatbotten (nu Copilot) gav fejlagtige oplysninger om de nylige valg i Schweiz og Tyskland. Ifølge en rapport fra interessegruppen AlgorithmWatch indeholdt næsten en tredjedel af værktøjets svar på spørgsmål om valgene faktuelle fejl.

Her er, hvad vi ved

Svarene indeholdt især forkerte datoer, afstemningsresultater og referencer til kandidater, der ikke deltog i valget. Bing citerede ofte faktiske kilder, men de tal, han citerede, var i modstrid med de originale data.

Forskerne bemærker, at Bings forsvarsmekanismer blev udløst ujævnt. I 30 procent af tilfældene var svarene korrekte, og i 39 procent af tilfældene nægtede chatbotten at svare. Men den lavede alvorlige faktuelle fejl, når det drejede sig om fakta snarere end meninger.

Microsoft forsikrede, at de tager skridt til at forbedre nøjagtigheden af AI-platforme, især i forbindelse med valg. Men risikoen for misinformation fra chatbots er en voksende bekymring.

Kilde: The Verge