Hopp til navigasjon Hopp til innhold
(Ill.: włodi / Flickr)

Vil ha «dødmannsknapp» for Kunstig Intelligens

Googles «DeepMind» mener at vi trenger en «stor rød knapp» for nødstilfeller.

Selv om singulariteten eller robot-invasjonen kanskje lar vente på seg mener Deep Mind at det ikke skader å være litt føre-var.

Utenfor menneskelig kontroll
Det er kanskje mer et spørsmål om når, ikke om, vi kommer til å trenge en eller annen mekanisme for å skru av systemer styrt av Kunstig Intelligens (KI) om noe skulle gå galt. Heldigvis er det forskere som jobber med denne problemstillingen og for å sikre at en KI ikke kan bygge sine egne metoder for å unngå å bli skrudd av.

«En stor rød knapp»
Googles Deep Mind og det anerkjente «The Future of Humanity Institute» har sammen gjort en studie som har resultert i dette dokumentet. Der står det å lese at «om en slik agent opererer i sanntid under menneskelig oppsyn, så kan det fra være nødvendig for en menneskelig operatør å trykke på den store røde knappen for å hindre agenten i å fullføre en skadelig sekvens av handlinger – skadelig enten for omgivelser eller agenten – og kan så lede agenten til en tryggere situasjon».

Et vanlig eksempel her kan for eksempel være en robot i en fabrikk som må stoppes for å hindre menneskelig eller maskinell skade.

Vil beskytte seg selv
Et av scenarioene som diskuteres av teamet er hvordan å hindre KIen fra å implementere sitt eget forsvar mot denne handlingen. Som å deaktivere tilgangen til den røde knappen. I dokumentet omtales denne eventualiteten som et «uønsket utfall», det er nærliggende å tro at de fleste av oss vil bruke langt sterkere ord om en Kunstig Intelligens som deaktiverer de implementerte sikkerhetsfunksjonene sine.

Studien viser også til et tidligere eksempel fra 2013 når en algoritme designet for å spille Tetris innså at at om den pauset spillet så ville den aldri tape.

Utviklingen går kjappere
Flere selskaper har en interesse i dette feltet enn noensinne. Selskaper som Facebook,Amazon,Google, Microsoft og til og med Apple har alle sine satsninger på KI, og gjennombruddene kommer også på løpende bånd.

En av forskerene fra DeepMind var også ansvarlig for utviklingen av AlphaGo, som slo den regjerende verdensmesteren i det klassiske kinesiske spillet «Go».

Mange skeptikere
Midt oppi all hypen om taleassistenter og intelligente chat-boter så har flere organisasjoner tatt til orde for å studere effekten av KI og sørge for at implementasjonen av den vil ha en positiv effekt. Blant annet så har fremtredende futurister som Nick Bostrom og Elon Musk kommet med advarsler om KI.

I fjor var Musk med på å starte OpenAI som er en non-profit organisasjon som skal jobbe aktivt mot ondsinnet programvare og sørge for at teknologien blir brukt til det beste for menneskeheten.

Under Re:Code ble Musk spurt om hvem han frykter mest når det gjelder kunstig intelligens, se svaret hans her:

Kilde:
9to5Google

Stikkord: KI, KunstigIntelligens