En feil i Microsoft 365 Copilot førte til at AI-en til Microsoft, som nå er overalt, kunne hente innhold fra konfidensielle e-poster i Outlook.
Copilot leste konfidensielle e-poster
AI-assistenten Microsoft 365 Copilot er blitt en sentral del av Microsofts viktigste produkter, for forbrukere og spesielt bedrifter – nå er det oppdaget en feil som avslører hvor komplisert integrasjonen mellom AI og sensitiv bedriftsdata kan være, for Microsoft har ikke hatt kontroll: problemet ble oppdaget 21. januar, men ble ikke rettet samme måned.
Feilen er at Copilot Chat kunne hente og oppsummere e-poster merket som konfidensielle. Feilen påvirket spesielt e-poster lagret i Outlooks sendte elementer og kladder-mapper. Feilen innebar at innhold fra disse e-postene ble sendt til Copilot for oppsummering, til tross for at det jo ikke skal skje.
I en uttalelse forklarer Microsoft at Copilot ikke ga tilgang til informasjon brukere ellers ikke hadde rettigheter til å se, og selskapet understreker at tilgangskontroller og databeskyttelsespolicyer fungerte som de skulle – dette melder selskapet ovenfor Neowin:
Annonse
«Vi identifiserte og rettet et problem der Microsoft 365 Copilot Chat kunne returnere innhold fra e-poster merket som konfidensielle, skrevet av en bruker og lagret i mappene Kladd og Sendte elementer i Outlook for skrivebord. Dette ga ikke noen tilgang til informasjon brukere ikke allerede var autorisert til å se. Selv om våre tilgangskontroller og databeskyttelsespolicyer forble intakte, oppfylte ikke denne oppførselen vår tiltenkte Copilot-opplevelse, som er designet for å utelukke beskyttet innhold fra Copilot-tilgang. En konfigurasjonsoppdatering er nå rullet ut globalt til enterprise-kunder.»
Hvorfor løste ikke Microsoft den grove feilen i januar?
Selv om Microsoft startet utrulling av en løsning 10. februar, ble ikke problemet bredt kjent før medier rapporterte om det. Dette har ført til spekulasjoner om hvor raskt hendelsen ville blitt løst uten offentlig oppmerksomhet. Det er også uklart om feilen har eksistert siden Copilot-integrasjonen først ble lansert, eller om den skyldes nyere endringer i systemet. Kort fortalt: dette skaper ikke tillit, og det er jo ekstra ille at e-postene var sensitive.
Saken skal ha endt uten lekkasjer eller andre hacks, men skaper på ingen måte mer tillit mellom kundene og Microsofts AI-satsing.
