Yhdysvaltain kansallinen keskus kadonneita ja hyväksikäytettyjä lapsia varten (National Center for Missing and Exploited Children, NCMEC) kertoo, että vuonna 2023 se sai 4700 ilmoitusta tekoälyn tuottamasta lasten seksuaalista hyväksikäyttöä kuvaavasta sisällöstä.
Ongelman odotetaan pahenevan tekoälyteknologian kehittyessä, NCMEC kertoi Reutersille.
Lasten turvallisuuden asiantuntijat ja tutkijat ovat ilmaisseet huolensa generatiivisen tekoälyteknologian aiheuttamista riskeistä, jotka voivat lisätä lasten hyväksikäyttöä verkossa.
Vuonna 2022 NCMEC sai ilmoituksia noin 88,3 miljoonasta tiedostosta.
NCMEC:n vanhempi varatoimitusjohtaja John Shehan sanoi: ”Saamme raportteja generatiivisen tekoälyn yrityksiltä itseltään, verkkoalustoilta ja yleisön jäseniltä. Se on todellakin toteutunut.”
Kesäkuussa julkaistussa raportissa Stanfordin Internet Observatoryn tutkijat totesivat, että hyväksikäyttäjät voivat käyttää generatiivista tekoälyä uusien kuvien luomiseen todellisista lapsista ja siten vahingoittaa heitä toistuvasti.
Fallon McNulty, NCMEC:n CyberTipline-yksikön johtaja, joka vastaanottaa ilmoituksia lasten hyväksikäytöstä verkossa. McNulty sanoi, että tekoälyn tuottamaksi merkitystä sisällöstä on tulossa ”yhä valokuvarealistisempaa”, minkä vuoksi on haastavaa määrittää, onko uhri todellinen henkilö.
Hän lisäsi, että ChatGPT:n luonut OpenAI on luonut prosessin raporttien lähettämiseksi NCMEC:lle ja keskustelee muiden tekoälyä tuottavien yritysten kanssa.
Lähde: Big News Network
