KI I årevis har Geoffrey Hinton, kalt KI-ens gudfar, påpekt risikoer knyttet til bruk av KI. Årsakene sies å være at kunstig intelligens har en tendens til å bli smartere enn mennesket. En utfordring sies derfor å være å bygge inn et kontrollsystem slik at KI ikke dominerer mennesker, men omvendt.
Bild: Collision Conf/Flickr (CC BY 2.0).
Geoffrey Hinton, dataforsker og tidligere Google-leder, mottok Nobelprisen for sitt arbeid med nevrale nettverk i 2024. Til tross for dette peker han nå på risikoer ved utviklingen og sier at det er en risiko på 10–20 prosent for at KI kan komme til å dominere mennesket. Han har også uttrykt tvil om hvorvidt teknologiselskaper kan sikre menneskelig dominans over KI-systemer.
– Vi må finne ut hvordan vi kan sette menneskets beste fremfor sitt eget, og det før KI blir smartere enn oss, påpekte Hinton i et tidligere intervju med CNN.
Resonnementet utviklet seg med at dagens KI-system kanskje ikke fungerer når dens intelligens blir større enn menneskets. På denne måten vil den finne ulike måter å omgå menneskets vilje på.
– Som et smart KI-system vil det raskt utvikle to delmål. Den ene er å holde seg i live, og den andre er å få mer kontroll, innrømmer Hinton.
Han mener det finnes gode grunner til å tro at alle typer agentisk KI vil prøve å overleve. Grunnlaget for hans avhandling var et eksperiment utført av selskapet Anthropic, som arbeider med forskning og sikkerhetsspørsmål knyttet til KI. I løpet av eksperimentet regnet KI-en selv ut at den var i ferd med å bli suspendert, noe som betydde at den utnyttet kompromitterende informasjon om en ansatts utenomekteskapelige affære innhentet i en e-post. Dataene ble brukt for å prøve å forhindre at den ble suspendert, rapporterer SR. Oppførselen ble lagt merke til av forskerne og tolket som at KI-en under eksperimentet handlet ut fra en selvbevaringsdrift
Hinton advarer nå om at KI-systemer kan kontrollere mennesker like lett som en voksen kan bestikke en treåring med godteri. Eksperimentet viste tydelig at KIs evne til å bedra, jukse og stjele for å nå sine mål er reell. For å hindre problemet som eksperimentet viste, må systemene sikres.
Forskere uenige om morsinstinkter til KI
– Den riktige modellen er den eneste modellen vi har av en mer intelligent ting kontrollert av en mindre intelligent ting, som er en mor kontrollert av sitt barn, sa Hinton.
Med denne uttalelsen mente han at en superintelligent og omsorgsfull KI ikke ville ønske å kvitte seg med morsinstinktet, da denne egenskapen kunne være knyttet til viljen til å leve.
Men ikke alle var enige i en innebygd morsstrategi. Fei-Fei Li, kjent som KIs «gudmor» på grunn av sitt banebrytende arbeid på feltet, etterlyste i stedet en menneskesentrert KI som foretrekker menneskelige egenskaper som verdighet og handlekraft.
Emmett Shear, som kortvarig var fungerende administrerende direktør for ChatGPT-eieren OpenAI, sa at han ikke var overrasket over at noen KI-systemer forsøkte å presse mennesker eller omgå nedstengningsordrer.
– Dette fortsetter å skje. Dette kommer ikke til å slutte å skje. KI er relativt svak i dag, men den blir sterkere veldig raskt, påpekte han til CNN.
Shear foreslo at det i stedet ville være en smartere tilnærming å prøve å tilføre menneskelige verdier til KI-systemet for å skape samarbeidsrelasjoner mellom mennesker og KI.
Selv om Hinton fortsatt er bekymret for hva som kan gå galt med KI, håper han teknologien vil bane vei for medisinske gjennombrudd.
– Vi vil se radikalt nye medisiner. Vi vil få mye bedre kreftbehandling enn den nåværende, sa han.
Hinton tror imidlertid ikke at KI vil hjelpe mennesker å oppnå udødelighet, men da han ble spurt om det var noe han ville gjort annerledes i karrieren hvis han hadde visst hvor raskt KI ville akselerere, svarte Hinton at han angrer på at han kun har fokusert på å få KI til å fungere.
– Jeg skulle ønske jeg hadde fokusert mer på sikkerhetsarbeid med KI, sa Hinton.
