Hopp til navigasjon Hopp til innhold
Elon Musk er blant investorene bak OpenAI. Nå har selskapet utviklet et kontroversielt verktøy. (Ill.: Pixabay)

Forskere holder tilbake AI-verktøy – frykter masseproduksjon av falske nyheter

Musk-støttede OpenAI har utviklet et verktøy som kan produsere artikler.

Forskere i non profit-organisasjonen OpenAI har utviklet et intelligent tekstverktøy som kan «forutsi» hva et menneske planlegger å skrive.

Men verktøyet, som benytter seg av kunstig intelligens, holdes tilbake av selskapet, i frykt for at teknologien skal misbrukes.

Bare tull, men alle vil ikke nødvendigvis forstå det

OpenAI delte nylig ny forskning rundt teknologien, som analyserer språk for å forutsi hvordan de neste setningene kommer til å se ut. Bekymringen ligger i fenomenet falske nyheter. Forskerne frykter nå at personer skal kunne bruke teknologien for å masseprodusere slike nyheter.

Det er selvfølgelig da også samtidig en innrømmelse av at verktøyet i bunn og grunn produserer sludder og vås, for å bruke det uttrykket. Likevel må det sies at resultatene tidvis er imponerende realistisk, i både form og tone.

Bruker Reddit som rettesnor

Systemet kan produsere artikler innenfor de fleste temaer, for eksempel nyhetsartikler. For å gjøre dette analyseres data fra over 8 millioner nettsider. AI-teknologien trenes til å samle inn «kvalitetsdata». I dette tilfellet betyr det at kun nettsider som er postet til Reddit inkluderes. Videre kreves det at Reddit-postene har fått en karma-score på 3 eller mer.

Ingenting av informasjonen som AI-generer, er unik. Alt er hentet fra nettet, men satt sammen på en unik måte.

Logisk brist

Forskerne erkjenner at teknologien kan produsere resultater med logiske brister og flere feil. For eksempel nevnes det at en automatisk generert nyhetsartikkel rapporterer om branner som har oppstått under vann. Andre ganger er det setninger som ikke gir mening, eller som er oppbygd helt feil.

Nedenfor kan du se to eksempler på tekst produsert av OpenAIs tekstverktøy:

Kilde:
VentureBeat

Stikkord: AI, Elon Musk, kunstig intelligens, OpenAI