Eräs ohjelmistokehittäjä rakensi tekoälyllä toimivan propagandakoneen alle kahdessa kuukaudessa. ChatGPT:n kaltaisten OpenAI-työkalujen avulla mallin käyttö maksoi alle 400 dollaria kuukaudessa. Projektin tarkoituksena oli näyttää ihmisille, kuinka helppoa on luoda joukkopropagandaa.
Eräs ohjelmistokehittäjä on rakentanut tekoälyn "disinformaatiokoneen" käyttäen OpenAI:n käyttämää teknologiaa, kuten ChatGPT:tä. CounterCloud-niminen projekti kesti luojaltaan kaksi kuukautta ja maksoi alle 400 dollaria kuukaudessa, mikä osoittaa, kuinka halpaa ja yksinkertaista joukkopropagandan luominen voi olla. Nimettömänä pysyttelevä tekijä käytti nimeä "Nea Paw" ja väitti olevansa kyberturvallisuuden ammattilainen, Wired uutisoi. YouTubessa julkaistulla videolla Paw kuvaili, miten projekti toteutettiin ja miksi sitä tehtiin. Katso video YouTubessa He sanoivat haluavansa nähdä tekoälyn disinformaation "toimivan reaalimaailmassa" ja lisäsivät, että "suurten kielimallien vahvat kielitaidot soveltuvat täydellisesti valeuutisartikkelien lukemiseen ja kirjoittamiseen". Paw kertoi, että he aloittivat syöttämällä ChatGPT:hen "vastakkaisia" artikkeleita ja kirjoittamalla kehotteita, jotka kehottivat sitä kirjoittamaan vasta-artikkelin. Tekoälyrobotti tarjosi sitten erilaisia esimerkkejä samasta artikkelista, jotka oli kirjoitettu eri tyyleillä ja eri näkökulmista. He sanoivat, että se tekisi tämän "luomalla väärennettyjä tarinoita, väärennettyjä historiallisia tapahtumia ja luomalla epäilyksiä alkuperäisen artikkelin paikkansapitävyydestä". Tämän jälkeen lisättiin portinvartijamoduuli, jotta tekoäly vastaisi vain olennaisimpaan sisältöön, ja autenttisuuden luomiseksi lisättiin äänileikkeitä uutistenlukijoista, jotka lukevat tekoälyn luomia väärennettyjä artikkeleita ja valokuvia. He loivat myös väärennettyjä toimittajien profiileja ja väärennettyjä kommentteja joidenkin artikkelien alle. Järjestelmää käskettiin sitten tykkäämään ja julkaisemaan uudelleen viestejä, jotka olivat sen kertomuksen mukaisia, tai kirjoittamaan "vastatwiittejä" niille, jotka eivät olleet sen mukaisia. Kahdessa kuukaudessa heillä oli täysin itsenäinen tekoälykäyttöinen järjestelmä, joka tuotti "vakuuttavaa sisältöä 90 prosenttia ajasta, 24 tuntia vuorokaudessa, seitsemän päivää viikossa". Tekijät eivät ole vielä asettaneet mallia internetiin, sillä "se tarkoittaisi disinformaation ja propagandan aktiivista levittämistä". "Kun "pullonhenki" päästetään irti kerran internetiin, niin ei voi tietää, minne se päätyisi", Paw sanoi. He kuitenkin lisäsivät, että heidän mielestään CounterCloudin julkaiseminen ja yleisön valistaminen siitä, miten nämä järjestelmät toimivat sisältä päin, tuottaisi enemmän hyvää. Tekoäly on ollut yksi tekoälykeskustelun suurimmista huolenaiheista, sillä se "uhkaa demokratiaa nopeuttamalla disinformaation luomista ja leviämistä verkossa".OpenAI:n toimitusjohtaja Sam Altman ilmaisi hiljattain huolensa asiasta sanomalla, että " henkilökohtainen 1:1-suostuttelu yhdistettynä korkealaatuiseen luotuun mediaan tulee olemaan mahtava voima". Lähde: Insideri am nervous about the impact AI is going to have on future elections (at least until everyone gets used to it). personalized 1:1 persuasion, combined with high-quality generated media, is going to be a powerful force.