AI til at generere klistermærker WhatsApp tilføjer nogle gange våben til billeder af børn på Palæstina-relaterede forespørgsler

I messenger-tjenesten WhatsApp genererer en AI-klistermærkegenerator i nogle tilfælde billeder af børn med våben, når der indtastes Palæstina-relaterede prompts.

Her er, hvad vi ved

Tidligere begyndte modellen at producere klistermærker med en tendens til at skabe upassende voldelige eller rå billeder, herunder børnesoldater. Ifølge medierapporter har nogle af virksomhedens medarbejdere markeret og forværret problemet med prompts relateret til krigen i Israel.

Metas talsmand Kevin McAlister siger, at virksomheden er i gang med at løse problemet. Han tilføjede, at virksomheden vil fortsætte med at forbedre AI-funktionerne, efterhånden som de udvikler sig og baseret på brugerfeedback.

Meta har tidligere oplevet andre tilfælde af AI-bias. For eksempel indsatte Instagrams automatiske oversætter ordet "terrorist" i arabiske tekster i profiler. Fejlen førte til anholdelsen af en palæstinensisk mand i Israel i 2017.

Kilde: The Guardian: The Guardian