Disinformaatio tekoälykone maksaa alle 400 Euroa
Toukokuussa valtion omistama venäläinen media, Sputnik International, julkaisi joukon twiittejä, joissa kritisoitiin Yhdysvaltojen ulkopolitiikkaa ja hyökättiin Bidenin hallintoa vastaan. Jokaiseen twiittiin vastasi lyhyesti mutta taitavasti muotoiltu vastaus tililtä nimeltä CounterCloud, joka joskus linkitti asiaankuuluvaan uutis- tai mielipideartikkeliin. Venäjän kritiikki Yhdysvaltoja kohtaan ei ole epätavallista, mutta CounterCloudin materiaali oli: twiitit, artikkelit ja jopa toimittajat ja uutissivustot oli luotu kokonaan tekoälyalgoritmien avulla, kertoo projektin takana oleva henkilö, joka käyttää nimeä Nea Paw. Hän sanoo projektin tarkoituksen olevan korostaa massatuotetun AI-disinformaation vaaraa.
Paw, joka väittää olevansa kyberturvallisuusammattilainen, kertoo luoneensa CounterCloud-kampanjan, joka vastusti Venäjän viestintää, käyttämällä OpenAI:n tekstintuotantoteknologiaa, kuten ChatGPT:tä, ja muita helposti saatavilla olevia AI-työkaluja kuvien ja kuvitusten tuottamiseen. Kokonaiskustannukset olivat noin 400 dollaria.
Paw sanoo, että projektissa käytetyt laajasti saatavilla olevat generatiiviset AI-työkalut tekevät valtiollisen propagandan tukemien tietokampanjoiden luomisesta paljon helpompaa. ”En usko, että tähän on olemassa yhtä ratkaisua, aivan kuten ei ole ratkaisua phishing-hyökkäyksiin, roskapostiin tai sosiaaliseen manipulointiin”, Paw toteaa sähköpostissaan.
Viime vuosina disinformaation tutkijat ovat varoittaneet, että AI-kielimallit voivat olla osa erittäin henkilökohtaisia propagandakampanjoita ja voivat ohjata sosiaalisen median tilejä, jotka vuorovaikuttavat käyttäjien kanssa monimutkaisilla tavoilla.
Renee DiResta, Stanford Internet Observatoryn tekninen tutkimuspäällikkö, sanoo, että CounterCloud-projektissa tuotetut artikkelit ja toimittajaprofiilit ovat melko vakuuttavia. ”Hallituksen toimijoiden lisäksi sosiaalisen median hallintatoimistot ja palkkasoturit, jotka tarjoavat vaikuttamisoperaatiopalveluja, ottavat epäilemättä nämä työkalut käyttöön ja sisällyttävät ne työnkulkuunsa”, DiResta sanoo.
OpenAI:n toimitusjohtaja, Sam Altman, sanoi viime kuussa twiitissään olevansa huolissaan siitä, että hänen yrityksensä tekoälyä voitaisiin käyttää räätälöidyn, automatisoidun disinformaation luomiseen suuressa mittakaavassa.
i am nervous about the impact AI is going to have on future elections (at least until everyone gets used to it). personalized 1:1 persuasion, combined with high-quality generated media, is going to be a powerful force.
— Sam Altman (@sama) August 3, 2023
Lähde: Mashable
