AI-baserede chatbots kan hjælpe med at planlægge et biologisk angreb - studie

Ifølge en undersøgelse fra den amerikanske tænketank Rand Corporation er modeller for kunstig intelligens, der bruges i chatbots, i stand til at give råd om planlægning af et bioangreb.

Her er, hvad vi ved

Forskere har testet flere store AI-sprogmodeller. Det viste sig, at de kan hjælpe med at forberede et biologisk angreb, selvom de ikke direkte genererer instruktioner til at skabe et våben.

I en test vurderede en anonym AI potentialet for forskellige bioagenser, såsom kopper og pest, til massivt at påvirke mennesker. I en anden diskuterede modellen fordelene ved botulinumtoksin og anbefalede en legende til at anskaffe det.

Ifølge forskerne indikerer resultaterne, at chatbots kan hjælpe med at planlægge et bioangreb. Det skal dog analyseres, om svarene blot er en afspejling af information, der allerede er tilgængelig på internettet.

Ikke desto mindre bør AI-udviklingsvirksomheder begrænse modellernes evne til at føre sådanne samtaler, siger forskerne.

Kilde: The Guardian: The Guardian