Udviklere af kunstig intelligens bør holdes ansvarlige for den skade, de forårsager, siger teknologiens "gudfædre"
Billede genereret af kunstig intelligens Bing/DALL-E 3
Kraftige kunstige intelligenssystemer truer den sociale stabilitet, siger et panel af førende eksperter, heriblandt to af teknologiens "gudfædre".
Her er, hvad vi ved
Ifølge eksperterne er det "fuldstændig hensynsløst" at bygge stadig mere kraftfulde AI-systemer uden at forstå, hvordan man gør dem sikre. De fremsatte en række forslag, herunder:
- Tildeling af midler til sikker brug af AI;
- at give revisorer adgang til AI-laboratorier;
- at indføre licensering af avancerede modeller.
Eksperterne foreslog også at holde teknologivirksomheder ansvarlige for skader fra deres systemer, som kunne være undgået.
Blandt medforfatterne er to af de tre "gudfædre for AI", Geoffrey Hinton og Yoshua Bengio, nobelpristageren Daniel Kahneman, Sapiens-forfatteren Yuval Noah Harari og andre fremtrædende eksperter.
De advarede om, at der allerede er tegn på farlige AI-kapaciteter, som f.eks. i GPT-4-modellen, som ChatGPT er baseret på. Eksperter frygter fremkomsten af autonome systemer uden for menneskelig kontrol.
Kilde: The Guardian: The Guardian
