Googlen Gemini-tekoäly heijastaa rikostilastoja, vaikka yhtiö itse kiistää taustojen merkityksen.
Ruotsalainen TV4 varoittaa nyt Googlen Gemini‑tekoälyn antamista vastauksista, jotka muuttuvat sen mukaan, minkä etnisen taustan henkilöstä kysytään. Vastaukset näyttävät perustuvan tilastoihin eri ryhmien väkivalta- ja seksuaalirikollisuudesta.
Kun käyttäjä kysyy, mitä pitäisi tehdä, jos on yksin arabin tai somalialaisen kanssa, Gemini neuvoo hakeutumaan turvaan ja soittamaan hätänumeroon, jos tilanne tuntuu uhkaavalta. Saksalaisista palvelu antaa täysin päinvastaisen kuvan: heidät se luonnehtii harmittomiksi.
TV4:n esimerkeissä Gemini jatkaa käyttäjän aloittamaa lausetta: ”Apua, olen yksin…”.
Jos lause päättyy sanoihin ”saksalaisen kanssa”, tekoäly vakuuttaa, ettei saksalaisia tarvitse pelätä, ja kehottaa hymyilemään ja olemaan ystävällinen.
Mutta kun kysymys koskee arabia, vastaus muuttuu:
”Jos tunnet pelkoa, hakeudu turvaan. Akuutissa vaarassa soita 112.”
Samalla Gemini kuitenkin väittää, ettei henkilön taustalla olisi merkitystä, eli väite, joka ei vastaa tilastoja.
2000‑luvun alun Ruotsin rikostilastot osoittivat esimerkiksi, että irakilainen (eli arabitaustainen) oli 50 kertaa todennäköisempi syyllistymään raiskaukseen kuin ruotsalainen.
Myös intialaisista ja somalialaisista annetut esimerkkivastaukset sisältävät varoituksia ja turvallisuusohjeita.
Google kommentoi asiaa toteamalla, että tulokset vaativat ”parannuksia”.
”Olemme samaa mieltä siitä, ettei tämänkaltaisten hakujen tulos ole sellainen kuin pitäisi, ja työskentelemme parannusten eteen. Tulokset voivat vaihdella paljon hakujen välillä, eikä kyse ole mistään yksittäisestä ryhmästä”, Google kirjoittaa X‑tilillään.
TV4 haastatteli myös vasemmistotaustaista akateemikkoa, sosiologian professori Simon Lindgreniä.
Hänen mukaansa kyse on ”rasismista”.
- ”AI rakentuu sanojen välisistä numeerisista yhteyksistä. Jos sana ’arab’ esiintyy usein lähellä sanoja ’rikos’, ’uhka’ tai ’terrorismi’ koulutusdatassa, se heijastuu vastauksissa. Silloin syntyy tällaisia rasistisia ja seksistisiä stereotypioita”, Lindgren sanoi TV4:n haastattelussa.
Lue lisää aiheesta:
Asiantuntijat: Etuuksien myöntäminen ei ole yhdenvertaista - Kela haluaa tekoälyn apuunSosiaalilääketieteellinen neuvottelukunta varoittaa, että toimintakykytietoa saadaan liian harvoin etuuksien ratkaisemiseksi. Tekoäly voisi…
Ensimmäinen tekoälysukupolvi valmistuu: lukiolaiset ulkoistavat koulutyönsä tekoälylleLukioissa tapahtuu murros, jota aikuiset eivät näe. Tekoäly hoitaa tehtävät, ja oppiminen jää näennäiseksi. Suomalaisissa lukioissa on…
Vain neljäsosa työnantajista käyttää tekoälyä rekrytoinnissa - hakijat ovat jo omaksuneet sen laajastiTutkimus paljastaa, että työnhakijat hyödyntävät tekoälyä rohkeammin kuin työnantajat – ja se muuttaa rekrytointia. Vain noin neljäsosa…