I går kunne vi skrive at en av verdens ledende Deepfake-eksperter anslår at det vil være umulig å skille mellom ekte og falske videoer innen 6-12 måneder.
Deepfakes, som sørger for å produsere falske ansikter ved hjelp av avanserte algoritmer, kan potensielt være farlige verktøy dersom de havner i feil hender.
Les også: Deepfake-app lager nakenbilder av kvinner med ett klikk
Det fryktes for eksempel at kjendisers ansikt blir misbrukt, eller at politiske valg blir tuklet med. Med Deepfake-teknologien kan man for eksempel få Donald Trump til å si hva som helst, uten at det egentlig er han som sier det.
Annonse
Frykter «syntetisk media»
Nå har Google lansert åpen database bestående av 3000 deepfake-videoer. Videoene er laget med utgangspunkt i ekte ansikt, men har gjennomgått manipulasjon ved hjelp av AI.
Så hvorfor frigir Google disse videoene?
«Siden de først dukket opp sent i 2017, har mange deepfake-metoder basert på åpen kildekode vokst frem, noe som har ført til et økende antall syntetiserte mediaklipp. Mens mange av dem skal være morsomme, kan andre være skadelige for individer og samfunnet for øvrig», skriver Google i et blogginnlegg.
Selskapet sier at de «tar disse utfordringene på alvor».
«Vi er forpliktet til å utvikle AI-praksiser som minsker potensialet for skade og misbruk», skriver selskapet.
Les også: Denne AI-appen tar helt av i Kina
Håper databasen kan fremskynde utviklingen av viktig verktøy
Selskapet jobbet med 28 skuespillere som ble filmet mens de snakket og viste forskjellige ansiktsuttrykk. Deretter brukte de offentlig tilgjengelige deepfake-algoritmer for å endre på utseende deres.
Google ønsker nå at deres bidrag skal kunne bidra til å fremskynde utviklingen av verktøy som kan gjenkjenne deepfakes (falske vidoer/bilder).
«På grunn av at feltet flytter seg så raskt vil vi legge til (nye bilder) i denne databasen mens teknologien utvikler seg over tid. Vi vil fortsette å jobbe med partnere på dette området. Vi tror dypt på å støtte et blomstrende forskningsmiljø rundt minskingen av potensiell skade og misbruk av syntetisk media. Dagens lansering av vår deepfake-database er et viktig steg i den retningen».
Les også: Du kan gjøre hva du vil med disse 100 000 AI-genererte bildene
Ikke alene
Google er imidlertid ikke alene om å jobbe med gjenkjenning av deepfakes. Både Facebook og Microsoft er involvert i et bredt støttet industri-initativ som tar sikte på å utvikle åpen kildekode-baserte verktøy som kan oppdage falske videoer.
Facebook skal lansere en sin egen, lignende database mot slutten av året.
Kilde:
MIT Technology Review
Annonse
