Studie: Kunstig intelligens skriver mere overbevisende tweets end mennesker

Brugere finder tweets mere overbevisende, når de er skrevet af en AI-drevet sprogmodel i stedet for et menneske.

Hvad vi ved

Forskerne indsamlede Twitter-beskeder, der diskuterede 11 forskellige videnskabelige emner, fra vacciner og COVID-19 til klimaforandringer og evolution. De bad derefter GPT-3 om at skrive nye tweets med nøjagtige eller unøjagtige oplysninger.

Holdet indsamlede derefter svar fra 697 deltagere. De talte alle engelsk og boede primært i Storbritannien, Australien, Canada, USA og Irland. De blev bedt om at identificere, hvilke tweets der var skrevet af GPT-3, og hvilke der var skrevet af et menneske. De skulle også afgøre, om oplysningerne i opslaget var sande.

Resultatet var, at forsøgsdeltagerne var mere tilbøjelige til at stole på AI end på andre mennesker - uanset oplysningernes nøjagtighed.

Folk havde størst succes med at genkende misinformation skrevet af rigtige brugere. Falske indlæg genereret af GPT-3 var lidt mere effektive til at bedrage deltagerne i undersøgelsen.

Forskerne bemærkede, at der var en række begrænsninger, som påvirkede resultaterne. For eksempel vurderede deltagerne tweets ude af kontekst. De kunne ikke tjekke Twitter-profilen på forfatteren af beskeden for at afgøre dens ægthed.

Forskerne vendte også processen om og bad GPT-3 om at vurdere, om tweets var ægte. Det viste sig, at sprogmodellen var dårligere end mennesker til at afgøre nøjagtigheden af beskeder. Når det kom til at opdage desinformation, viste mennesker og GPT-3 de samme resultater.

Som konklusion mener forskerne, at den bedste strategi til at modvirke desinformation er at udvikle kritisk tænkning, så folk selv kan adskille fakta fra fiktion.

Kilde: The Verge: The Verge.