Et falsk robocall på vegne af Biden, der opfordrede ham til ikke at stemme på demokraterne ved det amerikanske valg, viste sig at være et fupnummer.

Desinformationseksperter mener, at et nyligt automatiseret telefonopkald på vegne af den amerikanske præsident Joe Biden, der opfordrede vælgerne i New Hampshire til ikke at stemme ved det demokratiske primærvalg, sandsynligvis er en dipfake genereret af kunstig intelligens.

Her er, hvad vi ved

Ifølge eksperter er dette indikeret af den unaturlige kadence af tale i lydoptagelsen. Derudover er moderne neurale netværk til talegenerering i stand til at imitere rigtige menneskers stemmer, herunder politikere, fra små lydprøver med høj nøjagtighed.

Eksperter bemærker, at dipfake-teknologier ikke er regulerede og kan bruges til skade for dem. For eksempel er denne spoofing et forsøg på at undertrykke vælgernes stemmer, hvilket er forbudt ifølge amerikansk føderal lov.

Senator Richard Blumenthal, som har fremsat et lovforslag i Senatet om at regulere kunstig intelligens, håber, at hændelsen vil henlede offentlighedens opmærksomhed på truslerne fra desinformation baseret på dipfakes.

"Jeg håber, at Biden deepfake, eller efterligningen, faktisk vil være et chok for systemet og måske advare alle om, at alle faktisk er i fare," sagde han.

Anklagemyndigheden i New Hampshire kaldte robocallet for et tilsyneladende "ulovligt forsøg" på at forhindre vælgerne i at stemme på Biden i det demokratiske primærvalg. De kunne dog ikke oplyse, hvor lydoptagelsen stammer fra.

Dipfakes er ikke tidligere blevet brugt til at forstyrre amerikanske valgprocesser, hvilket ikke er tilfældet med robocalls. Ifølge Mekela Panditharatne fra New York University er de historisk set blevet brugt af snydere til at sprede falske oplysninger om, hvordan, hvornår og hvor man skal stemme.

"Stemmegenererende AI gør potentielt den metode til at forsøge at undertrykke stemmer mere attraktiv for svindlere," tilføjede hun.

Kilde: NBC