Brugere af Bing Image Creator har skabt et billede af terrorangrebet den 11. september med Mickey Mouse og Svampebob som piloter på flyet.
Brugere har omgået beskyttelsen i Bings AI-billedgenerator og skabt billeder af tegneseriefigurer, der angriber tvillingetårnene i New York. Microsoft har forsøgt at blokere sådanne anmodninger, men det ser ikke ud til at være lykkedes.
Her er, hvad vi ved
Nogle brugere brugte Bing med DALL-E 3-modellen til at generere billeder af SpongeBob, Kirby, Mickey Mouse og andre figurer, der angriber tvillingetårnene.
Microsoft siger, at de arbejder på at forbedre deres filtreringssystem for at forhindre, at der skabes skadeligt indhold. Men hvis man blot udskifter ord i en forespørgsel, kan man stadig omgå blokeringen og generere et billede af tårnene.
Eksperter bemærker, at moderationssystemer i AI-generatorer er fejlbehæftede. Angribere udnytter aktivt denne sårbarhed til at skabe og distribuere skadeligt indhold.
Virksomheder har stadig meget arbejde at gøre for at etablere effektiv billedfiltrering, siger eksperterne.
Gå et spadestik dybere:
Kilde: 404 medier
