New York-chatbot spreder falsk information

En nylig undersøgelse foretaget af The Markup afslørede, at en chatbot lanceret af New Yorks bystyre for at yde informationssupport til virksomhedsejere har spredt unøjagtige og endda vildledende oplysninger om byens politikker.

Her er, hvad vi ved

Ifølge rapporten giver chatbotten, der er drevet af Microsoft Azures kunstige intelligens, falske oplysninger, og nogle gange bryder den endda loven.

Udgivelsen, der blev foretaget i samarbejde med de lokale non-profit publikationer Documented og The City, fandt en række unøjagtigheder i chatbottens svar på spørgsmål om boligpolitik, arbejdstagerrettigheder og andre vigtige emner.

Borgmester Adams afslørede chatbotten i oktober som en del af My City-portalen, der blev introduceret i marts 2023 som byens vigtigste kilde til tjenester. Det viste sig dog, at det kun var et pilotprojekt med en advarsel på hjemmesiden om, at oplysningerne nogle gange kunne være unøjagtige eller endda skadelige.

Under The Markups test gav chatbotten forkerte oplysninger som svar på forskellige spørgsmål, herunder spørgsmål om kontantløse butikker og ansættelsesregler. Eksperter i boligpolitik beskriver chatbotten som "farligt unøjagtig" i værste fald.

Leslie Brown, en talsmand for New York City Office of Technology and Innovation, sagde, at chatbotten allerede har givet tusindvis af mennesker rettidige og præcise svar. Han indrømmede dog, at deres team vil fortsætte med at arbejde på at opdatere systemet for at give bedre støtte til små virksomheder i byen.

Kilde: Markup