Microsoft forsøgte at lukke munden på sårbarheden i DALL-E, siger en embedsmand fra virksomheden.

GeekWire

Microsofts ingeniør i kunstig intelligens, Shane Jones, hævder at have opdaget en sårbarhed i OpenAI's DALL-E 3 billedgenereringsmodel i begyndelsen af december. Brugere kan bruge den til at omgå beskyttelsen og skabe skadeligt indhold, hævder udvikleren.

Her er, hvad vi ved

Efter at have opdaget sårbarheden rapporterede Jones det straks til ledelsen. Han blev dog rådet til at kontakte OpenAI direkte.

Jones offentliggjorde derefter et indlæg, der kritiserede OpenAI på LinkedIn, men Microsofts juridiske afdeling krævede, at indlægget blev fjernet med det samme. Udvikleren efterkom sin arbejdsgivers krav.

Ifølge Jones udgør DALL-E 3 på grund af de fejl, han har opdaget, en trussel mod den offentlige sikkerhed og bør fjernes fra offentlighedens adgang. Han opfordrede OpenAI til at løse modellens problemer, men fik aldrig noget svar fra virksomhederne.

Microsoft og OpenAI sagde, at de undersøgte Jones' besked og ikke fandt noget bevis for, at sårbarheden gør det muligt at omgå forsvaret. Samtidig kunne Microsoft ikke forklare ingeniøren, hvorfor de krævede indlægget slettet.

Jones sendte oplysninger om sårbarheden til statsadvokaten i staten Washington og amerikanske kongresmedlemmer. Han opfordrede myndighederne til at oprette et system til at spore AI-risici.

Han udtrykte også sin villighed til at blive whistleblower og bede om juridisk beskyttelse mod virksomhedschikane, hvis det skulle blive nødvendigt.

Kilde: GeekWire