USA og Storbritannien vil sammen teste sikkerheden i modeller for kunstig intelligens

De amerikanske og britiske regeringer har underskrevet et aftalememorandum om at skabe en fælles tilgang til uafhængig vurdering af sikkerheden i avancerede kunstige intelligensmodeller som ChatGPT og DALL-E.

Her er, hvad vi ved

Under partnerskabet vil Storbritanniens AI Safety Institute og dets amerikanske modstykke, der tidligere blev annonceret af vicepræsident Kamala Harris, i fællesskab udvikle testsuiter til risikovurdering og sikkerhed af banebrydende AI-modeller.

Parterne planlægger at dele teknisk ekspertise, information og personale. Et af de første mål vil være at gennemføre fælles tests på en offentligt tilgængelig AI-model.

Den britiske videnskabsminister Michelle Donelan understregede behovet for at handle hurtigt, da en ny generation af AI-modeller forventes at dukke op næste år, hvis kapacitet endnu ikke er kendt.

Partnerskabet er verdens første bilaterale aftale om AI-sikkerhed, selvom både USA og Storbritannien har til hensigt at engagere andre lande i fremtiden.

Den amerikanske handelsminister Gina Raimondo sagde, at partnerskabet vil fremskynde institutionernes arbejde med at vurdere risiciene ved AI for den nationale sikkerhed og samfundet som helhed, give en dybere forståelse af AI-systemer og udstede strenge anbefalinger.

Flashback

Ud over at teste og evaluere er regeringer verden over også i gang med at udvikle regler for at regulere AI-teknologier. Det Hvide Hus har underskrevet en bekendtgørelse, der skal sikre, at føderale agenturer kun bruger sikre AI-værktøjer, og Europa-Parlamentet har godkendt en omfattende lovgivning, der forbyder manipulerende og diskriminerende AI-systemer, samt kræver mærkning af AI-genereret indhold.

Kilde: Engadget