Facebookin kuvarobotti pelastaa ihmisiä – mutta luoko se automatisoidun kaksinaismoralismin?

Julkaistu: , Päivitetty:

Uutiskommentti
Uutiskommentti: Facebookin tekoäly löytää sopimattomia kuvia jo ihmisiä enemmän, mutta tämä on vasta alkua, johtaja kertoi TechCrunchille.


Maailman suurin yhteisöpalvelu Facebook nojaa yhä enemmän tietokoneisiin loukkaavien ja muuten käyttöehtojen vastaisten kuvien poistamiseksi palvelusta.

– Yksi tällä hetkellä kiinnostava seikka on, että tekoälyn algoritmit raportoivat enemmän loukkaavia kuvia kuin ihmiset, Facebookin koneoppimisen johtaja Joaquin Candela sanoi TechCrunchille.

Tähän asti Facebook on nojannut pitkälti paitsi käyttäjiin, myös palkattuihin valvojiin kuvallisen kuonan karsimiseksi. Tämä on altistanut ihmisiä kammottavalle sisällölle kuten lapsipornolle tai irtileikatuille päille. Tekoäly voi pelastaa monia ihmisiä jopa pysyviltä henkisiltä vahingoilta.

– Mitä lähemmäs sataa prosenttia puskemme, sitä vähemmän ihmiset näkevät loukkaavia kuvia, Candela jatkoi uutispalvelun haastattelussa.

Ihan kiva, mutta...

Facebookin tapauksessa kiinnostaisi tietää, miten se on kouluttanut tekoälyään vastaamaan omia ohjenuoriaan sopivasta sisällöstä. Ja varsinkin, miten kone toimii rajatapauksissa, joiden kanssa Facebook on joutunut usein napit vastakkain käyttäjien kanssa.

Voisi kuvitella, että tekoäly ainakin lopulta poistaa valitukset imetyskuvien mielivaltaisista poistoista. Facebook sallii rintaruokinnan kuvissa, mutta työntekijät ovat silti toisinaan poistaneet sellaisia kuvia omin päin.

Suomalaisittain katsottuna Facebook on myös välillä syyllistynyt suoranaisiin hölmöyksiin kuvien kielloissa. Yhtiö katsoi, että kuuluisa alastonta naista esittävä maalaus on liikaa sen käyttäjille.

TechCrunch huomauttaa, että Facebook ei kehitä tekoälyään tyhjiössä, vaan tekee aktiivista ja avointa yhteistyötä muiden yritysten kanssa. Se osaltaan huojentaa huolia, että tekoäly olisi pelkästään riippuvainen Facebookin maailmankuvasta.

TechCrunchin jutussa mainitut yhteistyökumppanit, Netflix, Google, Uber ja Twitter, ovat kuitenkin kaikki amerikkalaisia yrityksiä, joten paikallinen kulttuuri saattaa silti sanella, millaisia kuvia Facebook sallii käyttäjilleen ympäri maailman.

Facebookin työntekijöiden omapäisyydestä saatiin lisää todisteita äskettäin, kun heidän väitettiin sensuroivan konservatiivisia uutisartikkeleita. Facebookin mukaan todisteita vääristelystä ei ole, mutta muutoksia tehdään silti.

Kommentit

    Näytä lisää