Midjourney vil forbyde generering af billeder af politikere forud for det amerikanske valg

Midjourney, der har udviklet en populær billedgenerator baseret på kunstig intelligens, overvejer at indføre et totalt forbud mod at skabe politiske billeder for at bremse spredningen af forfalskninger op til det amerikanske præsidentvalg.

Her er, hvad vi ved

Ifølge Midjourneys CEO, David Holz, handler det om at blokere billeder af politikere som Joe Biden og Donald Trump i de næste 12 måneder. Brugere har tidligere skabt kompromitterende billeder og memes med disse og andre højt profilerede personer ved hjælp af AI.

"Jeg ved, at det er sjovt at lave Trump-billeder - jeg laver Trump-billeder," siger Holz. "Trump er æstetisk set virkelig interessant. Men det er nok bedre bare at lade være - bedre at trække sig lidt tilbage under dette valg. Vi får se."

Midjourney har allerede regler, der forbyder generering af "misvisende offentlige personer" og "begivenheder". Men politiske forfalskninger siver stadig gennem moderatorernes forsvarsværker. Når det er sagt, vil forbud mod specifikke personaer ikke løse problemet med, at AI bliver brugt til misinformation generelt.

Andre IT-virksomheder tager også skridt til at bekæmpe falsk politisk indhold. Især ChatGPT vil snart begynde at mærke AI-genererede billeder.

Kilde: Bloomberg: Bloomberg