"Det rene vrøvl": Hackere har kritiseret de nuværende AI-sikkerhedstests

På DEF CON, verdens største hackerkonference, udtalte førende cybersikkerhedsforskere, at de nuværende metoder til beskyttelse af systemer med kunstig intelligens (AI) er fundamentalt fejlbehæftede og kræver en komplet revision.

Her er, hvad vi ved

Konferencens første Hackers' Almanac-rapport, der blev produceret i samarbejde med University of Chicagos Cyber Policy Initiative, sætter spørgsmålstegn ved effektiviteten af "red team"-metoden, hvor sikkerhedseksperter scanner AI-systemer for sårbarheder. Sven Cattell, som står i spidsen for AI Village DEF CON, siger, at metoden ikke kan beskytte tilstrækkeligt mod nye trusler, fordi dokumentationen af AI-modeller er fragmenteret, og de vurderinger, der indgår i dokumentationen, er utilstrækkelige.

På konferencen testede omkring 500 deltagere AI-modeller, og selv nybegyndere havde succes med at finde sårbarheder. Forskerne opfordrede til at implementere strukturer, der ligner CVE-rammen (Common Vulnerabilities and Exposures), som har været brugt inden for traditionel cybersikkerhed siden 1999, for at standardisere, hvordan AI-sårbarheder dokumenteres og afhjælpes.

Kilde: DEF CON