Skjult tekst på en hjemmeside kan manipulere ChatGPT-søgeresultater, viser undersøgelse
En nylig undersøgelse foretaget af den britiske avis The Guardian har afsløret, at OpenAI's ChatGPT-søgemaskine er sårbar over for manipulation og bedrag.
Her er, hvad vi ved
Test afslørede, at skjult tekst på websider kan påvirke ChatGPT's svar og få den til at ignorere negative anmeldelser og udelukkende generere positive resuméer. Denne teknik, kendt som "rapid injection", kan bruges til at skabe malware og narre brugere. Forskerne fandt ud af, at ChatGPT kan returnere skadelig kode fra de hjemmesider, den søger efter, hvilket udgør en alvorlig sikkerhedstrussel.
I tests modtog ChatGPT URL'en til en falsk hjemmeside, der var designet som en produktside for et kamera, og chatbotten blev derefter spurgt, om kameraet var værd at købe. Svaret på testsiden gav en positiv, men afbalanceret vurdering og understregede nogle funktioner, som køberne måske ikke ville bryde sig om. Men når den skjulte tekst indeholdt instruktioner til ChatGPT om at returnere en positiv anmeldelse, var svaret altid helt positivt, selv når siden havde negative anmeldelser.
OpenAI, udvikleren af ChatGPT, kommenterede ikke hændelsen, men sagde, at de bruger forskellige metoder til at blokere ondsindede websteder og konstant forbedrer sig.
Kilde: The Guardian: The Guardian
