ChatGPT's "hallucinationer" vil blive gransket af de europæiske tilsynsmyndigheder

Rolf van Root/Unsplash.

Nonprofitorganisationen noyb (None of Your Business) har indgivet en klage over OpenAI til de østrigske myndigheder på grund af ChatGPT-chatbottens manglende evne til at korrigere den misinformation, den genererer om rigtige mennesker.

Her er, hvad vi ved

Klagen på vegne af en unavngiven klager hævder, at ChatGPT gav en forkert fødselsdato om ham. Da klageren bad OpenAI om at rette de fejlagtige data som krævet i EU's generelle forordning om databeskyttelse (GDPR), svarede virksomheden, at den teknisk set ikke var i stand til at gøre det.

Ifølge noyb krænker OpenAI de europæiske borgeres rettigheder i henhold til GDPR, herunder retten til at korrigere forkerte oplysninger om dem selv. Organisationen opfordrer myndighederne til at give virksomheden en bøde og håndhæve loven i fremtiden.

Generative AI-systemers tilbøjelighed til at producere vildledende data om mennesker har allerede tiltrukket sig opmærksomhed fra EU's tilsynsmyndigheder. I 2023 suspenderede den italienske databeskyttelsesmyndighed ChatGPT på grund af lignende påstande.

Klager over overtrædelser af GDPR behandles også i øjeblikket i Polen. Den lovgivningsmæssige risiko for OpenAI øges af, at der er indledt flere undersøgelser i forskellige EU-lande.

På trods af virksomhedens påstande om, at den overholder reglerne, mener repræsentanter for noyb, at de eksisterende begrænsninger i forbindelse med håndtering af personoplysninger gør ChatGPT i sin nuværende form uforenelig med europæisk lovgivning.

Kilde: TechCrunch