ElevenLabs заблокировала аккаунт, который подделал голос Байдена для дезинформации избирателей
Gage Skidmore/Flickr
ElevenLabs, en AI-virksomhed med speciale i stemmekloning, har blokeret den konto, hvorfra der blev lavet falske lydoptagelser af den amerikanske præsident Joe Bidens stemme.
Her er, hvad vi ved
Optagelserne blev brugt i telefonopkald til vælgere før valget for at misinformere og undertrykke valgdeltagelsen. Pindrops ekspertise bekræftede, at det var ElevenLabs' teknologi, der blev brugt til at imitere Bidens stemme.
Virksomheden sagde, at den undersøger hændelsen og ikke vil tolerere brugen af sine AI-værktøjer til ulovlige formål. Eksperter bemærker dog, at startups, der arbejder med indholdsgenerering, er nødt til at være mere aktive i kampen mod misbrug.
Ifølge eksperter er denne hændelse kun toppen af isbjerget. Deep AI-baserede forfalskninger kan blive en alvorlig trussel mod demokratiske processer, herunder det kommende amerikanske præsidentvalg.
Gå et spadestik dybere:
Kilde: Engadget Engadget
