Kunstig intelligens har lært at forfalske stemmer for at snyde autentificeringssystemer

Forskere fra University of Waterloo i Canada har udviklet en stemmeforfalskningsmetode ved hjælp af kunstig intelligens, der gør det muligt at omgå stemmeautentificering.

Hvad vi ved

Stemmegodkendelse er baseret på det unikke ved hver persons stemme. Den påvirkes af fysiske karakteristika, såsom stemmebåndenes og strubehovedets størrelse og form, samt sociale faktorer.

Autentificeringssystemer fanger nuancerne i stemmeaftryk. Kunstig intelligens kan allerede imitere menneskelig tale ret realistisk, men algoritmerne har karakteristiske artefakter, som analytikere kan bruge til at identificere en forfalskning.

Den teknik, som forskerne har udviklet, har til formål at eliminere disse træk. Idéen er at "indgravere" brugerens stemmeaftryk i den falske optagelse.

"Vores kontradiktoriske mekanisme forsøger at fjerne de maskinelle artefakter, der er fremherskende i disse prøver," står der i artiklen.

Forskerne trænede systemet på taleprøver fra 107 talere for bedre at forstå, hvad der får tale til at lyde menneskelig. For at teste algoritmen skabte de flere prøver for at narre autentificeringssystemer. Mod nogle svage systemer opnåede de 99% efter seks forsøg.

Men stærkere autentificeringssystemer viste sig at være mere pålidelige. I en test mod Amazon Connect opnåede forskerne en succesrate på 10% i et angreb på fire sekunder og 40% på mindre end 30 sekunder.

Forskerne bemærkede også, at angriberne har brug for en prøve af offerets stemme og de rette tekniske færdigheder til at udføre angrebet. Det er en ret høj barriere, men de opfordrede udviklere af autentificeringssystemer til at arbejde på at forbedre sikkerheden i deres teknologier.

Kilde: The Register: The Register.