Undersøgelse: Sprogmodeller med kunstig intelligens viser implicit racisme over for afroamerikansk engelsk

Ifølge ny forskning har store AI-sprogmodeller og OpenAI's version af ChatGPT skjulte racemæssige bias mod afroamerikansk engelsk.

Her er, hvad vi ved

De identificerede skævheder manifesterer sig ikke kun i dette aspekt, men også i udnævnelsen af job og vurderingen af mistænktes skyld. Blandt jurister, som normalt ikke udviser åbenlys racisme, blev der bemærket visse implicitte fordomme, som blev tydelige takket være kunstig intelligens.

Forfatterne til undersøgelsen understreger de potentielle risici ved at bruge sådanne AI-modeller på områder, hvor de allerede anvendes, såsom erhvervsliv og jura. De opfordrer til yderligere forskning og løsning af disse problemer for at forhindre yderligere diskriminerende manifestationer i fremtiden.

Kilde: Gizmodo