Huolestuttavia lapsipornokuvia sisältäviä tilejä ei poistettu, vaikka niistä oli tehty ilmiantoja.
Instagram ei aio poistaa tilejä, jotka keräävät sadoittain seksuaalisuuteen liittyviä kommentteja, vaikka niistä on ilmoitettu sovelluksen sisäisen ilmiantotoiminnon kautta.
Instagramin emoyhtiö
Meta väittää, että se suhtautuu lasten seksuaaliseen hyväksikäyttöön nollatoleranssilla. Sen automaattinen moderointiteknologia on kuitenkin todennut, että tilit, jotka on merkitty epäilyttäviksi sovelluksen sisäisen ilmiantotoiminnon kautta, ovat hyväksyttäviä ja pysyvät toiminnassa.
Esimerkiksi toisessa tapauksessa eräs tutkija ilmoitti sovelluksen sisäisen ilmiantotoiminnon avulla tilistä, joka oli julkaissut kuvia lapsista seksuaalisissa poseerauksissa. Instagram antoi samana päivänä vastauksen, jossa se totesi, että "suuren viestimäärän vuoksi" se ei ollut pystynyt tarkastelemaan raporttia.
Kuitenkin Instagram totesi, että sen "tekniikka on havainnut, että tämä tili ei todennäköisesti ole yhteisönormien vastainen." Käyttäjiä kehotettiin estämään tili tai poistamaan sen seuraaminen tai ilmoittamaan siitä uudelleen. Tili pysyi lauantaina toiminnassa, ja sillä oli yli 33 000 seuraajaa.
Samanlaisia tilejä - niin sanottuja "tribuuttisivuja" - havaittiin olevan käytössä myös
Twitterissä.
Erään tilin, jolla julkaistiin kuvia miehestä, joka harrasti seksiä 14-vuotiaan TikTok-vaikuttajan kuvien parissa, ei katsottu rikkovan Twitterin sääntöjä sen jälkeen, kun siitä oli raportoitu sovelluksen sisäisten työkalujen avulla.
Vaikka mies vihjasi julkaisuissaan, että hän pyrki luomaan yhteyksiä ihmisiin laittoman materiaalin jakamisesta. "Olen etsimässä vaihtokauppaa nuorempien jutuista", luki eräässä hänen twiitissään. Twiitti poistettiin sen jälkeen, kun
Collective Shout -kampanjaryhmä kirjoitti siitä julkisesti.
Havainnot herättävät huolta some-alustojen raportointityökaluista. Kriitikot sanovat, että sisältö näytti jäävän elämään, koska se ei täyttänyt rikosoikeudellista kriteeriä - vaikka se liittyi epäiltyyn laittomaan toimintaan.
Usein tilejä käytetään niin sanottuun
breadcrumbing-toimintaan (“viatonta seksuaalista flirttailua ilman sitoumuksia”), jossa rikoksentekijät julkaisevat teknisesti laillisia kuvia, mutta tapaavat verkossa yksityisissä viestiryhmissä ja jakavat muuta materiaalia.
Instagram ja Twitter ylläpitävät “näyteikkunoita” pedofiileille
NSPCC:n verkkoturvallisuuden johtaja
Andy Burrowsin mukaan tilit toimivat "näyteikkunoina" pedofiileille. "Yritysten olisi tunnistettava tämä sisältö ennakoivasti ja poistettava se sitten omatoimisesti", hän sanoi. "Mutta silloinkin, kun siitä ilmoitetaan yrityksille, ne arvioivat, että sisältö ei ole uhka lapsille ja sen pitää edelleen pysyä sivustolla."
Hän kehotti parlamentin jäseniä puuttumaan porsaanreikiin ehdotetussa verkkoturvallisuuslakiehdotuksessa, jonka tarkoituksena on säännellä sosiaalisen median yrityksiä ja josta keskustellaan Iso-Britannian parlamentissa 19. huhtikuuta. Hänen mukaansa yritysten olisi pakko puuttua laittoman sisällön lisäksi myös sellaiseen sisältöön, joka on selvästi haitallista, mutta ei välttämättä täytä rikosoikeudellista kynnystä.
Australiassa toimivan Collective Shout -hyväntekeväisyysjärjestön
Lyn Swanson Kennedy, joka valvoo maailmanlaajuisesti hyväksikäyttöön liittyvää sisältöä, sanoi, että alustat luottavat siihen, että ulkopuoliset organisaatiot hoitavat sisällön moderoinnin niiden puolesta. "Kehotamme alustoja puuttumaan joihinkin näistä hyvin huolestuttavista toimista, jotka asettavat alaikäiset tytöt erityisen vakavaan vaaraan joutua häirinnän, seksuaalisen hyväksikäytön ja seksityön kohteeksi”, hän huomautti.
Instagramin emoyhtiö Meta sanoi, että sillä on tiukat säännöt lapsia seksuaalisesti hyväksikäyttävää tai vahingoittavaa sisältöä vastaan ja että se poisti sisällön, kun se sai siitä tiedon. "Keskitymme myös haittojen ehkäisemiseen kieltämällä epäilyttävät profiilit, estämällä aikuisia lähettämästä viestejä lapsille, joihin heillä ei ole yhteyttä. Olemme myös asettaneet alle 18-vuotiaat oletusarvoisesti yksityisille tileille", tiedottaja selitti.
Twitterin mukaan sille ilmoitetut tilit on nyt pysyvästi poistettu käytöstä sääntöjen rikkomisen vuoksi. "Twitter ei suvaitse lainkaan materiaalia, joka sisältää tai edistää lasten seksuaalista hyväksikäyttöä. Taistelemme aggressiivisesti verkossa tapahtuvaa seksuaalista hyväksikäyttöä vastaan ja olemme investoineet voimakkaasti teknologiaan voidaksemme valvoa käytäntöjämme”, tiedottaja vakuutteli.
Center for Countering Digital Hate -nimisen voittoa tavoittelemattoman asiantuntijaryhmän toimitusjohtaja
Imran Ahmed sanoi: "Automaattiseen havaitsemiseen turvautuminen, joka ei tunnetusti pysy perässä pelkän vihapuheen, saati sitten ovelien ja määrätietoisten lasten seksuaalisen hyväksikäyttöverkostojen kanssa, merkitsee lastensuojelun perusvelvollisuuden rikkomista."
Lähde: The Guardian
