OpenAI bruger GPT-4 til at bygge et kunstig intelligens-baseret indholdsmodereringssystem

OpenAI mener, at GPT-4 kan erstatte titusindvis af moderatorer og samtidig være næsten lige så præcis og mere konsekvent. Udviklere siger, at de allerede bruger sprogmodellen til at skabe og forfine deres egne politikker, indholdsmærkning og beslutningstagning.

Her er, hvad vi ved

OpenAI beskriver tre hovedfordele i forhold til traditionelle tilgange til indholdsmoderering.

For det første mener virksomheden, at mennesker fortolker regler forskelligt, mens maskiner er konsekvente i deres vurderinger. Retningslinjer kan være lange og under konstant forandring. Mennesker har også brug for meget træning for at lære og tilpasse sig, mens sprogmodeller øjeblikkeligt kan implementere nye regler.

For det andet kan GPT-4 angiveligt hjælpe med at udarbejde en ny politik inden for et par timer. Normalt tager processen med at udarbejde, mærke, indsamle feedback og færdiggøre sådanne dokumenter uger eller flere måneder.

For det tredje nævner OpenAI trivslen for medarbejdere, der konstant udsættes for skadeligt indhold, såsom børnemishandling eller torturvideoer.

Kilde: OpenAI: OpenAI