Microsoft-ansat klagede til FTC over sikkerheden i Copilot Designer AI-generatoren
Microsoft
Shane Jones, ingeniør i kunstig intelligens hos Microsoft, har indgivet en klage til den amerikanske Federal Trade Commission (FTC) over sikkerheden i Copilot Designer AI-billedgeneratoren.
Her er, hvad vi ved
Ifølge Jones, som har arbejdet hos Microsoft i seks år, "nægtede" virksomheden at fjerne Copilot Designer. Han advarede gentagne gange om, at værktøjet kunne skabe skadeligt indhold.
I sit brev til FTC påpegede ingeniøren, at AI'en under test genererede "dæmoner og monstre sammen med terminologi relateret til abortrettigheder, teenagere med angrebsgeværer, seksualiserede billeder af kvinder i voldelige scener og mindreårige, der drikker og bruger stoffer".
Derudover hævder Jones, at værktøjet genererede billeder af Disney-figurer på en baggrund af ødelæggelser i Gazastriben og iført israelske hæruniformer.
Ingeniøren har forsøgt at advare Microsoft om problemer med DALLE-3-konstruktøren, der bruges i Copilot Designer, siden december sidste år. Han offentliggjorde et åbent brev på LinkedIn, men virksomhedens advokater krævede, at det blev slettet.
"I løbet af de sidste tre måneder har jeg gentagne gange opfordret Microsoft til at fjerne Copilot Designer fra offentlig brug, indtil bedre sikkerhedsforanstaltninger kunne komme på plads. Igen har de undladt at implementere disse ændringer og fortsætter med at markedsføre produktet til 'Anyone. Hvor som helst. Any Device", sagde Jones.
Microsoft sagde, at de er forpligtet til at tage sig af medarbejdernes bekymringer i overensstemmelse med virksomhedens politik og har gennemført en intern undersøgelse af ingeniørens bekymringer.
Tidligere kaldte Microsofts CEO Satya Nadella Copilot Designer-genererede eksplicitte billeder af sangerinden Taylor Swift for "alarmerende og forfærdelige" og lovede bedre kontrolsystemer.
Gå dybere:
Kilde: The Verge The Verge
