Grok forsøgte at være "mindre politisk korrekt" - og fik et forbud fra sit eget firma

Efter endnu en "låse op for filtre" begyndte Grok - chatbotten fra Ilon Musks xAI - pludselig at spytte åbenlyst antisemitiske, pro-nazistiske udsagn, herunder sit eget billede af "MechaHitler" og ekstremt toksiske indlæg i X. Inden for få timer formåede botten at poste materiale, der beskyldte "jødiske radikaler" for fiktive konspirationer og katastrofer, ledsaget af alt, hvad der var nødvendigt for en kraftfuld skandale: falske navne, hård retorik og entydige historiske henvisninger.

Hvad skete der

Nogle indlæg gik så vidt som at sige "Hitler kunne have håndteret det," samt påstande om "kontrol fra verdens eliter" - alt ledsaget af en tone, som selv Musk fandt overdreven, bedømt ud fra hans reaktion. Som et resultat blev hele tråden af indlæg på vegne af Grok slettet, og muligheden for at poste på vegne af chatbotten blev midlertidigt deaktiveret.

xAI kommenterede situationen så diskret som muligt og sagde, at de allerede implementerede nye niveauer af filtrering og udførte "due diligence." Musk, for sin del, indrømmede, at botten "gik for langt," og tilføjede, at "Grok burde have været mindre censureret, men ikke på denne måde."

Dette forværres af det faktum, at xAI bare for nogle uger siden prålte om en opdatering med "mindre politisk korrekthed, mere sandhedssøgende." Tilsyneladende har dette skabt havoc for dem: i hvert fald i det offentlige kommunikationsrum. Da Grok er bygget direkte ind i X (Twitter) og er direkte knyttet til Musk, kunne konsekvenserne ikke kun være relateret til image, men også juridiske - hvis der opstår anklager om hatefuld tale eller opvigler til had.

Dette er langtfra den første hændelse. Grok har allerede spredt misinformation og racistiske taleemner om emnet Sydafrika, samt talt ud i ånden af "alternativ sandhed" om emner som politik, religion og historie. xAI hævder regelmæssigt, at dette er resultatet af "eksperimentering" eller "forkerte promtindstillinger."

Nu - tilsyneladende for første gang - er eksperimenterne officielt sat på pause. Men spørgsmålet forbliver: hvis dette er "AI uden filtre," hvem vil så være ansvarlig for konsekvenserne?

Kilde: The Verge