Digitoday

Näin terroristeja torjutaan YouTubesta: Myös rajatapaukset saavat varoituksen

Julkaistu:

Terrorismi
Google esittelee neljä keinoa YouTuben terrorismivideoiden karsimiseksi.
Yhdysvaltalainen internet-yhtiö Google alkaa torjua voimakkaammin videopalvelu YouTubessa julkaistavaa äärimateriaalia.

Ensimmäisenä askeleena Google turvautuu entistä enemmän teknologiaan tunnistaakseen ääri- ja terrorismiaiheiset videot. Ongelmana on tunnistaa, milloin esimerkiksi video terrori-iskusta on propagandaa tai aiheellista uutismateriaalia. Google turvautuu kehittyneeseen koneoppimiseen kouluttaakseen uusia automaattisia sisällön luokittelijoita rikkovan sisällön nopeampaa tunnistusta varten.

Toisena keinona Google lisää merkittävästi ihmisiä YouTuben Trusted Flagger -ohjelmaan. Tässä ohjelmassa mukana olevien ihmisten ilmoitukset rikkovista videoista ovat Googlen mukaan varsin tarkkoja, ja nyt ohjelmaan otetaan mukaan 50 uutta kansalaisjärjestöä.

Kolmanneksi YouTube kiristää silmukkaa niiden videoiden ympärillä, jotka eivät selvästi riko käytäntöjä, mutta koettelevat niitä – esimerkiksi uskontoon tai rotuajatteluun liittyen. Tällaiset videot laitetaan uuden varoituksen taakse, eikä näillä videoilla voi tehdä rahaa. Niitä ei myöskään voi suositella, eikä niitä voi kommentoida.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Viimeisenä keinona YouTube kasvattaa panostaan radikalisoitumisen vastustamisessa etenkin Euroopassa. Käytännössä YouTube kohdentaa terrorisminvastaista mainontaa sellaisille käyttäjille, jotka saattaisivat olla liittymässä Isis-terrorijärjestöön.

Tekoälystä ei vielä ratkaisijaksi

– Vaikka me ja muut olemme työskennelleet vuosia käytäntöjämme rikkovan sisällön tunnistamiseksi ja poistamiseksi, epämukava totuus on, että meidän on teollisuutena tiedostettava tarve tehdä enemmän, Googlen lakijohtaja Kent Walker kirjoittaa blogissa.

Google ja kumppanit ovat myös saaneet vipinää pöksyihinsä, kun äänenpainot internetin rajoittamiseksi ovat lisääntyneet. Äskettäin esimerkiksi Britannian pääministeri esitti kansainvälisiä internetin sääntelyn mahdollistavia sopimuksia terroristien toimintamahdollisuuksien vähentämiseksi.

Vaikka Googlen toimenpiteet ovat hyvä uutinen käyttäjien kannalta, on niillä myös inhimillinen hintansa. Koska teknologia ei ilmeisesti ole vielä läheskään valmis ottamaan sisällönvalvontaa käsiinsä, joutuu Google altistamaan lukuisia uusia työntekijöitä sisällölle, joka pahimmillaan voi olla erittäin traumatisoivaa.

Muun muassa Facebook tappelee saman ongelman kanssa.