slack maskinlæring
Slack trener maskinlæresystemene sine med meldinger. Bilde: Corey Quinn/X

Annonse


Reagerer med vantro

Slack, en populær meldingsplattform for bedrifter, har uten at de aller fleste har vært klar over det lest private meldinger.

Bruker meldinger for å trene ML

Dette for å trene opp AI-maskinlæringen til å bli mer effektiv, og scanningen av dataene er aktivert som standard. Noe annet som gjør saken ekstra pikant at det ikke er mulig å deaktivere funksjonen i klient-programmet: i stedet må medarbeidere i bedrifter der programvaren brukes be administratoren deaktivere data-innsamlingen ved å kontakte Slack.

Det var Corey Quinn, “Chief Cloud Economist” hos DuckbillGroup, som oppdaget hva selskapet driver med etter å ha lest vilkårene der det blant annet står:

“For å utvikle AI/ML-modeller analyserer systemene våre kundedata (f.eks. meldinger, innhold og filer) sendt til Slack, samt annen informasjon (inkludert bruksinformasjon) som definert i personvernreglene og i kundeavtalen din.”

Slack svarte Quinn følgende på X etter avsløringen:

Annonse


“For å avklare så har Slack maskinlæringsmodeller på plattformnivå for ting som kanal- og emoji-anbefalinger og søkeresultater. Kunder kan ekskludere dataene sine fra å hjelpe med å trene disse (ikke-generative) ML-modellene. Kundedata tilhører kunden. Vi bygger eller trener ikke disse modellene på en slik måte at de kan lære, huske eller være i stand til å reprodusere deler av kundedata.”

Selskapet kom senere på banen og forklarte at kundedata ikke brukes til å trene Slacks generative AI-produkter. Engadget mener ordbruken “i beste fall er misvisende,” fordi de sier at “kunder kan velge bort når “kunder” ikke inkluderer ansatte som jobber i en organisasjon.”

Dette er hva kundene må være klar over, ifølge Slack:

  • Slack bruker industristandard personvernbeskyttende maskinlæringsteknikker for ting som kanal- og emoji-anbefalinger og søkeresultater. Vi bygger eller trener ikke disse modellene på en slik måte at de kan lære, huske eller være i stand til å reprodusere kundedata av noe slag. Mens kunder kan velge bort, gjør disse modellene produktopplevelsen bedre for brukerne uten risiko for at dataene deres noen gang blir delt. Slacks tradisjonelle ML-modeller bruker avidentifiserte, aggregerte data og har ikke tilgang til meldingsinnhold i DM-er, private kanaler eller offentlige kanaler.
  • Slacks tilleggsgenerative AI-produkt, Slack AI, utnytter tredjeparts LLM-er. Ingen kundedata brukes til å trene LLM-modeller. Og vi utvikler ikke LLM-er eller andre generative modeller ved å bruke kundedata.