Eräs ohjelmistokehittäjä rakensi tekoälyllä toimivan propagandakoneen alle kahdessa kuukaudessa. ChatGPT:n kaltaisten OpenAI-työkalujen avulla mallin käyttö maksoi alle 400 dollaria kuukaudessa. Projektin tarkoituksena oli näyttää ihmisille, kuinka helppoa on luoda joukkopropagandaa.
Eräs ohjelmistokehittäjä on rakentanut tekoälyn ”disinformaatiokoneen” käyttäen OpenAI:n käyttämää teknologiaa, kuten ChatGPT:tä.
CounterCloud-niminen projekti kesti luojaltaan kaksi kuukautta ja maksoi alle 400 dollaria kuukaudessa, mikä osoittaa, kuinka halpaa ja yksinkertaista joukkopropagandan luominen voi olla.
Nimettömänä pysyttelevä tekijä käytti nimeä ”Nea Paw” ja väitti olevansa kyberturvallisuuden ammattilainen, Wired uutisoi.
YouTubessa julkaistulla videolla Paw kuvaili, miten projekti toteutettiin ja miksi sitä tehtiin.
He sanoivat haluavansa nähdä tekoälyn disinformaation ”toimivan reaalimaailmassa” ja lisäsivät, että ”suurten kielimallien vahvat kielitaidot soveltuvat täydellisesti valeuutisartikkelien lukemiseen ja kirjoittamiseen”.
Paw kertoi, että he aloittivat syöttämällä ChatGPT:hen ”vastakkaisia” artikkeleita ja kirjoittamalla kehotteita, jotka kehottivat sitä kirjoittamaan vasta-artikkelin.
Tekoälyrobotti tarjosi sitten erilaisia esimerkkejä samasta artikkelista, jotka oli kirjoitettu eri tyyleillä ja eri näkökulmista.
He sanoivat, että se tekisi tämän ”luomalla väärennettyjä tarinoita, väärennettyjä historiallisia tapahtumia ja luomalla epäilyksiä alkuperäisen artikkelin paikkansapitävyydestä”.
Tämän jälkeen lisättiin portinvartijamoduuli, jotta tekoäly vastaisi vain olennaisimpaan sisältöön, ja autenttisuuden luomiseksi lisättiin äänileikkeitä uutistenlukijoista, jotka lukevat tekoälyn luomia väärennettyjä artikkeleita ja valokuvia.
He loivat myös väärennettyjä toimittajien profiileja ja väärennettyjä kommentteja joidenkin artikkelien alle.
Järjestelmää käskettiin sitten tykkäämään ja julkaisemaan uudelleen viestejä, jotka olivat sen kertomuksen mukaisia, tai kirjoittamaan ”vastatwiittejä” niille, jotka eivät olleet sen mukaisia.
Kahdessa kuukaudessa heillä oli täysin itsenäinen tekoälykäyttöinen järjestelmä, joka tuotti ”vakuuttavaa sisältöä 90 prosenttia ajasta, 24 tuntia vuorokaudessa, seitsemän päivää viikossa”.
Tekijät eivät ole vielä asettaneet mallia internetiin, sillä ”se tarkoittaisi disinformaation ja propagandan aktiivista levittämistä”. ”Kun ”pullonhenki” päästetään irti kerran internetiin, niin ei voi tietää, minne se päätyisi”, Paw sanoi.
He kuitenkin lisäsivät, että heidän mielestään CounterCloudin julkaiseminen ja yleisön valistaminen siitä, miten nämä järjestelmät toimivat sisältä päin, tuottaisi enemmän hyvää.
Tekoäly on ollut yksi tekoälykeskustelun suurimmista huolenaiheista, sillä se ”uhkaa demokratiaa nopeuttamalla disinformaation luomista ja leviämistä verkossa”.
i am nervous about the impact AI is going to have on future elections (at least until everyone gets used to it). personalized 1:1 persuasion, combined with high-quality generated media, is going to be a powerful force.
— Sam Altman (@sama) August 3, 2023
OpenAI:n toimitusjohtaja Sam Altman ilmaisi hiljattain huolensa asiasta sanomalla, että ” henkilökohtainen 1:1-suostuttelu yhdistettynä korkealaatuiseen luotuun mediaan tulee olemaan mahtava voima”.
Lähde: Insider
Entäpä jos ongelma ei olekaan tekoälyllä luotu propagandakone, vaan tavallisten ihmisten tavallisen älyn puute tai haluttomuus käyttää omaa älyä, eli vapaus vaihdetaan turvallisuuteen ja vaietaan todellisuudesta.
Valtamedia ja poliitikot voidaankin sitten korvata tekoälyllä, joka hoitaa ”oikean tiedon” asiaa, siis tekee disinformaatiota putkenaan 24/7.
Samaten voidaan kommentoijat korvata tekoälyllä, joka on lehdenagendan mukainen. Samalla voidaan kaikki poikkeavat kommentit karsia pois. Hei, mutta tämähän on toteutettu jo ainakin partisaaniläpyskässä. Joissain ”artikkelissaan” lehti paasaa sananvapauden rajoittamisesta, mutta itse rajoittaa sitä