Under et intervju med The Atlantic, deler Nick Boström, sjef ved Future of Humanity Institute ved Oxford sine tanker om menneskets fremtid og dets eksistens.
Eksistensiell trussel
Boström har tidligere argumentert for at mennesket har sviktet når det kommer til å utvikle avansert teknologi og at det igjen vil utgjøre en eksistensiell risiko.
– Vårt permanente problem med å utvikle denne typen teknologi som betraktelig vil øke kvaliteten til det menneskelige liv, vil regnes som en eksistensiell katastrofe, forteller han til The Atlantic.
Han tror det finnes vesentlige bedre måter å være menneske på enn vi på det nåværende tidspunktet kan nå eller oppleve.
Annonse
– Vi har grunnleggende biologiske begrensninger som begrenser verdier vi kan tilføre våre liv. Vår livstid er begrenset, våre kognitive evner er begrenset, vår emosjonelle forfatning er at selv under virkelig gode forhold, er vi fortsatt ikke helt lykkelige.
Les også: – Kunstig intelligens er den neste plattformen.
Bioteknologi
En av årsakene til menneskets eksistensielle risiko, er den hyppige teknologiske progresjonen på så mange området.
– Det er et økonomisk press, det er nysgjerrighet, det er alle mulige institusjoner og individuelle som har investert i teknologien, så å bare skru det av er veldig vanskelig, uttaler han.
Boström peker på forskjellige utviklinger innen bioteknologi og syntetisk biologi som ting som bekymrer ham.
– Vi nærmer oss muligheten til å lage designerpatogener og det finnes oppskrifter på ulike sykdomsorganismer som er offentlig tilgjengelige. Du kan laste ned gensekvensen for kopper eller influensaviruset 1918 fra Internett.
Les også: Linux-grunnleggeren ler av dystre AI-spådommer.
Kunstig intelligens
Sjefen for Future of Humanity forteller at han er bekymret for at dette vil bli så avansert at man i fremtiden kan bruke disse digitale oppskriftene til å skrive ut den faktiske RNA-strengen eller DNA-strengen.
RNA: Internasjonal betegnelse på ribonukleinsyre, en nukleinsyre (kjernesyre) som spiller en viktig rolle i kontrollen av produksjonen av proteiner i cellen. Enkelte virus har RNA som sitt arvemateriale i stedet for DNA. (Store medisinske leksikon)
Det største problemet i fremtiden, tror Boström vil være kunstig intelligens.
– Når den får menneskelige eller supermenneskelige egenskaper, kan den bli en stor trussel. Det er også ulike typer befolkningskontroll som bekymrer meg, ting som overvåking og legemidler for psykologisk manipulasjon.
– Risiko for at noe går galt
I en av hans avhandlinger, skriver han at eksperter har estimert med at den potensielle eksistensielle risikoen i dette århundret ligger på 10–20 prosent.
– Jeg føler at hva som driver dette, er at mennesket utvikler disse veldig kraftige evnene. Vi gjør enestående ting, og det er en viss risiko for at noe kan gå galt, forteller han til The Atlantic og trekker paralleller med utviklingen av atomvåpen.
– For å lage atomvåpen, trengte vi uran og plutonium som er veldig vanskelig å få tak i. Hva om det fantes en teknologisk teknikk som gjorde det mulig å lage atomvåpen ved å bake sand i mikrobølgeovnen eller noe liknende? spør Boström retorisk.
Han frykter at vi en dag gjør en oppdagelse som betyr katastrofe.
– Når en oppdagelse er blitt publisert, finnes det ingen måte å avpublisere den, konstaterer Boström.
Hele intervjuet kan du lese på The Atlantic. Under kan du se Boström snakke om kunstig intelligens under TED i fjor.
Annonse
