Kalz📸🇺🇬, Pexels
Facebook har bedt om unnskyldning etter at selskapets AI la etiketten “Primater” på en video av sorte menn. Foto: Kalz📸🇺🇬, Pexels

Annonse


Facebook beklager: AI’en deres merket video av sorte menn som ‘Primater’

Facebook har beklaget feilen og kaller den “uakseptabel”.

“Legger seg flat”

Facebook har bedt om unnskyldning etter at selskapets AI la etiketten “Primater” på en video av sorte menn. Ifølge The New York Times kom det opp en melding der brukerne ble spurt om de ville “fortsette å se videoer om primater”. 

Facebook har i en uttalelse unnskyldt “den uakseptable feilen” og deaktivert funksjonen som produserte meldingen. De går nå igjennom saken for å finne årsaken og forhindre at lignende ting skjer igjen.

Google fjernet “gorilla” fra søk

Vi har gjort forbedringer av vår AI, men den er på langt nær perfekt og mye arbeid gjenstår. Vi ber om forlatelse overfor alle dem som kan ha fått disse støtende anbefalingene. 

Dani Lever, Facebook

Ansiktsgjenkjenningsteknologi er fortsatt langtfra perfekt og har en generell tendens til å feilidentifisere farvede og kvinner. Ifjor førte falske ansiktsgjenkjenningstreff til urettmessige arrestasjoner av to sorte menn i Detroit. I 2015 merket Google Photos bilder av sorte mennesker som “gorillaer”, og Wired avslørte noen år senere at Google hadde “løst” problemet ved å sensurere ordet “gorilla” fra søk og billed-tags.

40 000 videoer ikke nok

Facebook lot for et par måneder siden dets AI jobbe seg igjennom 40 000 videoer med 3000 betalte skuespillere av forskjellig alder og kjønn. Selskapet hadde brukt profesjonelle lyssettere for for å lære AI’en hvordan mennesker med ulik etnisitet ser ut under varierende lysforhold. Datasettet var tydeligvis ikke nok til å fullstendig å løse AI’ens raseforvirring.

Annonse


Annonse


Annonse


Annonse