Oppdatert 28. juni kl 12.43: Utvikleren har valgt å stenge tjenesten. Det kunngjøres via appens Twitter-konto. Les den nye artikkelen her.
Original artikkel:
Deepfake-teknologi gjør stadig fremskritt takket være kunstig intelligens, men det finnes mange gode grunner til å være kritisk til teknologien. Som vi har vært inne på før kan Deepfake-teknikker brukes for en rekke problematiske formål, blant annet spredning av feilinformasjon, falske bilder og video.
Nå har det dukket opp en potensielt svært skadelig tjeneste som bruker nevrale nettverk for å fjerne klærne på bilder av kvinner. Resultatet er høyst realistiske bilder.
Annonse
Programvaren erstatter klær med bryster og vaginaer. Ifølge Motherboard, som først oppdaget tjenesten, fungerer den kun med kvinner. Når de testet med et bilde av en mann, ble klærne hans erstattet med et kvinnelig kjønnsorgan. Ifølge nettstedet, som testet appen med flere titalls bilder, ble resultatene mest realistiske når kvinnene allerede viste mye hud på bildene.
– Forferdelig skremmende
Det er nærmest grufullt å tenke på hva en slik app kan gjøre med personer som rammes av den.
Katelyn Bowden, grunnlegger og sjef i Badass, en aktivistgruppe som jobber hevnporno, reagerer med sjokk og vantro på appen.
– Dette er forferdelig skremmende. Nå kan alle bli et offer for hevnporno uten engang å ha tatt et nakenbilde. Denne teknologien burde ikke være tilgjengelig for offentligheten, sier Bowden til Motherboard.
Jussprofessor ved Maryland Carey School of Law vitnet nylig overfor Kongressen i forbindelse med Deepfake-trusselen. Til MotherBoard sier hun:
– Nei, dette er ikke din faktiske vagina, men andre tror at de ser deg naken. Som et Deepfake-offer sa til meg – det føles som at tusenvis av mennesker ser deg naken, du føler av kroppen ikke er din lenger, sier Citron til nettstedet.
Bruker åpen algoritme
Appen skal ha blitt lansert til Windows og Linux 23. juni. Den finnes både i en gratisversjon og betalingsversjon, hevder Motherboard.
I en e-post til Motherboard sier den anonyme skaperen av programvaren (han kaller seg «Alberto») at tjenesten er basert på pix2pix.
Dette er en algoritme basert på åpen kildekode, utviklet av Universitetet i California Berkley i 2017. Pix2pix benytter seg av såkalt generative adversarial networks (GANs), som betyr at algoritmen trenes av en gigantisk bildedatabase.
Økonomisk motiv
Appen skal ha blitt trent ved hjelp av 10.000 nakenbilder av kvinner, hevder utvikleren.
– For to år siden oppdaget jeg AI-potensialet og begynte å studere det grunnleggende. Da jeg fant ut at GAN-nettverk kan forvandle et dagtid-bilde til nattbilde, innså jeg at det ville være mulig å forvandle et bilde av noen med klær, til et nakenbilde, sier utvikleren, som kaller seg «Alberto» overfor Motherboard.
Han avslører at han også har et øknomisk motiv.
– Jeg er en teknologientusiast. Nylig, også på grunn av tidligere mislykkede prosjekter, spurte jeg meg selv om jeg kunne forbedre økonomien ved hjelp av denne algoritmen. Derfor skapte jeg tjenesten.
– Teknologien er her
Han hevder at han har stilt seg selv spørsmålet «er dette riktig?».
Dette var svaret han kom frem til:
– Jeg tror at det du kan gjøre med denne appen, kan du også gjøre med Photoshop, sier «Alberto».
Utvikleren hevder også at «noen ville uansett lagd dette».
– Teknologien er klar. Hvis noen har dårlige intensjoner forandrer det ikke så mye at vi har denne tjenesten. Hvis jeg ikke gjør det vil noen andre gjøre det innen et år, sier «Alberto».
Kilde:
Motherboard
Annonse
