I et åpent brev fra Elon Musk, Steve Wozniak og personer i teknologibransjen, advares det kraftig mot dagens AI-race.
Ber alle som forsker på noe kraftigere enn GPT-4 å pause arbeidet et halvt år
Brevet som er signert av over 1000 personer (alle som vil kan signere, ikke bare teknologi-kjendiser) hevder det beste verden kan gjøre nå er at alle selskap som forsker på AI, er å sette alt arbeid på vent i seks måneder. Det er et drastisk skritt vi ikke har hørt om tidligere i noen sammenheng i bransjen.
AI-laboratorier og uavhengige eksperter bør bruke pausen til i fellesskap å utvikle og implementere et sett med delte sikkerhetsprotokoller for avansert AI-design og -utvikling som er grundig revidert og overvåket av uavhengige eksterne eksperter. Disse protokollene bør sikre at systemer som følger dem er trygge utover enhver rimelig tvil. Dette betyr ikke en pause i AI-utviklingen generelt, bare et skritt tilbake fra det farlige kappløpet til stadig større uforutsigbare black-box-modeller med nye evner.
Future of Life Institute
Det vi har hørt er Musks gjentatte advarsler om at menneskeheten ikke helt vet hva de har satt i gang. Deepfake-videoer og lyd produseres allerede nå overbevisende av AI-algoritmer og kan på sekunder lure eller overbevise millioner av mennesker. Statsledere og kjendiser vil garantert bli brukt til slike formål med langt mer alvorlige hendelser som følge, enn hva som har skjedd til nå.f
KOMMENTAR: Jeg tror dette kan være Musks store plan
OpenAI er enige om at noe bør gjøres
OpenAI, som ble startet av blant annet Musk og Sam Altman (som er enig i mye i brevet, men at det ikke er “perfekt”), uttalte nylig:
Annonse
“På et tidspunkt kan det være viktig å få uavhengig gjennomgang før man begynner å trene fremtidige systemer, og for de mest avanserte forsøkene å bli enige om å begrense veksthastigheten for databehandling som brukes til å lage nye modeller.”
Brevet sier seg enige i dette, men at det må skje nå:
Derfor oppfordrer vi alle AI-laboratorier til umiddelbart å pause opplæringen av AI-systemer som er kraftigere enn GPT-4 i seks måneder. Pausen bør være offentlig og verifiserbar, og inkludere alle sentrale aktører. Hvis en slik pause ikke kan gjennomføres raskt, bør regjeringer gå inn og innføre et moratorium.
Future of Life Institute
Annonse
