YouTube vil forbyde indhold med AI, der realistisk efterligner stemmer fra døde børn

YouTube vil forbyde videoer, der bruger kunstig intelligens til realistisk at efterligne stemmerne fra afdøde mindreårige eller voldsofre, og som beskriver omstændighederne ved deres død. De nye restriktioner træder i kraft den 16. januar.

Her er, hvad vi ved

Årsagen til ændringerne var fremkomsten af videoer, hvor forfatterne bruger AI-teknologi til at genskabe udseendet og stemmerne fra børn, der døde i højt profilerede forbrydelser for at tale på deres vegne om deres oplevelser med vold og død. Sådanne videoer har fokuseret på sagerne om de forsvundne britiske piger Madeleine McCann og James Bulger samt Gabriel Fernández, der blev myrdet i USA.

Sådant indhold vil fremover blive fjernet fra YouTube, og dets ophavsmænd vil få en første straf og en uges forbud mod offentliggørelse. Efter tre strikes vil kanalen blive blokeret.

YouTube har tidligere indført krav om at oplyse om brugen af AI-teknologi i videoer, hvor syntetiske mennesker eller stemmer lyder særligt realistiske. Det er også forbudt at vise AI-genereret "realistisk vold", selv når det er korrekt mærket.

Manglende mærkning kan føre til fjernelse af indhold og endda udelukkelse fra YouTubes affiliate-program.

Kilde: Google: Google