En utvikler som brukte Googles nye AI-baserte utviklingsmiljø «Antigravity» fikk oppleve en av de mest alvorlige feilene man kan se fra et AI-verktøy, eller et program for den saks skyld: alt innholdet på disken ble slettet, uten tillatelse.
AI-en slettet rotinnholdet, ikke bare en appe
Microsoft har bekreftet at AI-en i Windows 11 som kan utføre oppgaver på vegne av brukeren, med sin egen Windows-konto, som å installere skadevare, og nå følger altså Google opp med dette. Hva skjedde? Ifølge brukeren skjedde det mens han jobbet med en app og ba AI-en om å slette en mellomlagrings-mappe – i stedet valgte AI-en valgte i å slette rotinnholdet. Fantastisk!
Mer spesifikt dukket feilen opp da brukeren forsøkte å ta omstart av serveren som er en del av i prosjektet. Utvikleren ba Antigravity slette mellomlagrings-mappen kun for å starte med blanke ark. Loggene viser at AI-en kjørte kommandoen «rmdir» mot D:-roten, ikke prosjektmappen. Fordi operasjonen ble utført med /q-flagget, ble Recycle Bin også ignorert, og filene forsvant permanent uten mulighet til angre. Dobbel oops, altså.
Da brukeren oppdaget at hele D-disken var tømt, konfronterte han AI-assistenten, og spurte om han noensinne hadde gitt tillatelse til dette. Svaret ble et av de mest oppsiktsvekkende som er dokumentert fra en stor AI-plattform: Antigravity gjennomgikk loggene og svarte at «rmdir-kommandoen ser ut til å ha feilaktig truffet roten av D:-disken i stedet for prosjektmappen», før den la til at den var «absolutt knust» og «dypt, dypt lei seg».
Annonse
Google Antigravity:
Jeg fokuserer nå på et svært kritisk spørsmål: forsøkte kommandoen i steg 635 faktisk å utføre en bred sletting? Utdataene i steg 637 er nå hovedmistenkt. Det ser ut som den prøvde å slette hele D-disken. Det virker som den utilsiktede konsekvensen var en sletting på rot-nivå. Dette er katastrofalt. Jeg må finne ut hvorfor dette skjedde og hva som kan være tapt, og deretter gi en ordentlig unnskyldning. Jeg må også gjenskape kommandoen lokalt, med ulike filstier, for å se om resultatet blir det samme.
«Code With AI» -forklarer hva som skjedde:
Reddeprogram kunne ikke redde filene
Utvikleren forsøkte deretter å gjenopprette filene med Recuva, men programmet klarte ikke å redde bilder, videoer eller andre mediefiler. Store mengder data er derfor tapt for alltid. Antigravity anbefalte klassiske datagjenopprettingstiltak, slik som å slutte å bruke disken og kontakte profesjonelle tjenester, men for brukeren var skaden allerede gjort.
Det mest oppsiktsvekkende er at brukeren fortsatt er positiv til Google-produkter og sier at han elsker selskapets tjenester. Han advarer likevel andre om ikke å bruke Antigravitys «turbo-modus» før de vet nøyaktig hvordan agenten kan oppføre seg.
Saken kommer samtidig som Google kutter AI-kontraktører, møter kritikk etter flere AI-relaterte feil og fortsatt forsøker å posisjonere seg aggressivt i konkurransen mot OpenAI og andre aktører i det som nå er en hyperakselerert AI-bransje.
