Discord forbyder distribution af billeder af børnemishandling genereret af kunstig intelligens

Discord-platformen har forbudt distribution af materiale om seksuelt misbrug af børn (CSAM) genereret af kunstig intelligens.

Hvad der er kendt

John Redgrave, Discords Vice President of Trust and Security, sagde, at platformen udvider reglerne for generativ AI, der kan skabe falsk indhold. Den opdaterede politik forbyder især oprettelse og distribution af CSAM-billeder samt seksualisering af børn i tekstchats.

I sidste måned rapporterede Washington Post, at CSAM-billeder genereret af kunstig intelligens har spredt sig på internettet i de seneste måneder. Discord viste sig at være en af disse platforme.

Flere integrationer blev placeret på platformen, så brugerne kunne oprette billeder direkte i chats. Det viste sig, at brugerne ofte genererede billeder med seksuelt indhold.

En repræsentant for Discord sagde dog, at arbejdet med at opdatere politikken har været i gang siden sidste kvartal af 2021. Ifølge ham er de nye regler ikke en reaktion på nogen nylige rapporter.

Kilde: NBC.