Forbrukerrådet advarer norske myndigheter om å bli for passive i spørsmålene rundt KI.
“Store utfordringer”
Årsaken er KI, altså intelligens som de påpeker har eksplodert i bruk: “Generativ kunstig intelligens (KI) gjør det enkelt å genere tekst, bilder, lyd og video som ligner på menneskeskapt innhold. Tjenestene er også integrert i plattformer som for eksempel Bing og Snapchat. Samtidig skaper utviklingen store utfordringer for både forbrukere og samfunnet som helhet.”
Bruken av generativ KI skaper en rekke forbrukerutfordringer knyttet til personvern, manipulasjon, personlig integritet, svindel og desinformasjon. Tjenestene er også svært energikrevende, noe som har stor innvirkning på miljø og bærekraft.
Inger Lise Blyverket, direktør, Forbrukerrådet
Mener vi ikke kan stole på teknogigantene
Blyverket advarer mot å tro på at stor-selskapene i teknologi-bransjen kan styre dette for oss: – Vi må sikre at utvikling og bruk av generativ kunstig intelligens er trygg, pålitelig og rettferdig. Dessverre har historien vist oss at vi ikke kan ha tiltro til at teknologigigantene ordner dette selv, og at det er behov for regulering som sikrer at våre rettigheter blir ivaretatt.
Vi hører hvorfor dette er for farlig å lansere
Forbrukerrådet og en rekke forbrukerorganiasajonser både i EU og USA har laget rapporten “Ghost in the machine – Addressing the consumer harms of generative AI” (PDF) der de blant annet bruker et bilde skapt av Midjourney som eksempel på hva “generativ kunstig intelligens” er i stand til.
Annonse
Rapporten knyttes til EUs kommende regulatoriske lovverk for KI. Forbrukerrådets direktør mener at regelverket blir veldig viktig for kunstig intelligens:
– Her er det viktig at norske myndigheter ikke blir sittende på gjerdet, og engasjerer seg aktivt i de internasjonale prosessene som pågår. Dette regelverket vil ha stor innvirkning på hvordan denne teknologien blir tatt i bruk.
Forbrukerrådet som har vært med på å skape rapporten, peker spesielt på fem viktige punkter:
- Gjeldende lover og regler må håndheves – Mange av utfordringene er omfattet av eksisterende lovverk. Myndigheten må se til at disse lovene håndheves effektivt og til forbrukernes beste
- Tilsynene må sikres tilstrekkelige ressurser – Tilsynsmyndighetene må ha tilstrekkelige ressurser og kompetanse til å følge utviklingen og føre tilsyn med selskapene som bruker KI.
- Forbrukerbeskyttelsen må styrkes – Forbrukere skal ikke være testkaniner for ny teknologi. Det må sikres at bruken av generativ KI er trygg, pålitelig og rettferdig.
- Strategier for KI må sette grunnleggende rettigheter i sentrum – Den nasjonale KI-strategien må oppdateres med den siste utviklingen innen KI, og må sette grunnleggende rettigheter i sentrum. Det bør også legges strenge føringer for bruk av generativ kunstig intelligens i offentlig sektor.
- Det må utarbeides tilpasset og fremtidsrettet lovverk – Det må utvikles nye regelverk som ivaretar forbrukernes rettigheter i de tilfellene der eksisterende lover ikke er tilstrekkelige.
Annonse
