It-guru ehdottaa keinoja, joilla Facebook ja YouTube tarjoaisivat kaikille ihmisille samaa todellisuutta - nyt meitä huijaavat algoritmit - Ulkomaat - Ilta-Sanomat

Näin meitä huijataan – it-guru listaa keinot, joilla torjuttaisiin Venäjän propagandaa ja rokote­valheita

Suomessakin on jo suuri joukko ihmisiä, joiden todellisuuskäsitys on täysin vääristynyt esimerkiksi Facebookin ja YouTuben valhesisältöjä suosivien algoritmien ansiosta. Tshekkiläinen Frantisek Vrabel analysoi maailmanlaajuista disinformaatiota tekoälyn avulla, ja nyt hänellä on hätähuuto koko ihmiskunnalle.

Tshekkiläinen it-yrittäjä Frantisek Vrabel on kehittänyt keinoja ennustaa yritysten riskejä analysoimalla maailman mediaa tekoälyn avulla. Samalla syntyi uusia tapoja havaita ja analysoida netissä levitettävää valetietoa.

27.10. 20:01

It-yrittäjä Frantisek Vrabel kiertää parhaillaan uutterasti maailmalla puhumassa niin Euroopan unionin, Britannian kuin Yhdysvaltainkin päättäjille.

Vrabel on syvästi huolissaan siitä, mitä koko ihmiskunnalle tapahtuu, ellei maailmanlaajuisten sosiaalisen median palveluiden ja internetin alustojen ansaintalogiikkaa saada pian kuriin.

Hänen mukaansa tarvittaisiin kiireesti lainsäädäntöä, joka estäisi kansainvälisiä somejättejä profiloimasta ihmisiä paitsi mainostajien niin myös vihamielisten valtioiden vaikutuskampanjoiden tarpeisiin.

– En ole vaatimassa sensuuria tai disinformaation täyttä poistamista netistä. Vaadin ainoastaan sitä, että minulle internetissä näytettävä ”todellisuus” maailmasta ei saisi olla toisenlainen kuin sinulle tai jollekin kolmannelle henkilölle näytettävä ”todellisuus”, Vrabel painottaa.

Ihmiset eivät näe algoritmeja eivätkä tiedä niiden toimintatavasta, joten monet heistä eivät suostu edes uskomaan, että heitä huijataan niiden avulla.

Vrabel tietää mistä puhuu, sillä hänen yrityksensä Semantic Visions (SV) analysoi 12 eri kielellä maailmanlaajuista nettisisältöä liki miljoonasta eri lähteestä.

Lähteiden joukossa on uutismediaa, blogeja ja muuta sosiaalisen median sisältöä, josta seulotaan koneellisesti miljardeja artikkeleita. SV:n kehittämä tekoäly analysoi tekstejä niin, että sisällöstä ei poimita ainoastaan irrallisia hakusanoja vaan pidempiä lauseita ja lauseiden merkityksiä.

– Kehitimme ohjelmamme alkujaan yritysten ja hallitusten tarpeisiin maailmanlaajuista riskianalyysiä varten. Jo nyt olemme onnistuneet ennakoimaan monia tulevia trendejä sen avulla – esimerkiksi koronaviruspandemian tulosta näkyi varoitus vuoden 2019 lopulla, vaikka koko termiä covid-19 ei silloin vielä edes tunnettu.

– Työkalumme sivutuote on, että meillä on nyt tehokas tapa analysoida kerralla valtava määrä myös internetissä leviävää valeinformaatiota ja informaatiovaikuttamisen tapoja, Vrabel kuvaili IS:lle Tallinnan Lennart Meri -konferenssissa.

Semantic Visions kertoo tekevänsä nykyisin analyysejä lähinnä Nato-maiden ja EU-maiden tarpeisiin. 2019 se sai Britanniasta teknologiapalkinnon, jonka tuella on tarkoitus kehittää keinoja disinformaation karsimiseen netistä.

Venäjän viranomaiset tietävät VKontakten käyttäjistä kaiken, koko heidän sosiaalisen dna:nsa, kaiken intiimeimmänkin heistä.

Vrabelin mukaan tällä hetkellä tilanne on se, että suuri joukko ihmisiä on jo niin syvällä vaikkapa rokotesalaliittojen tai Kremlin-mielisen propagandan syövereissä, että he eivät enää edes kohtaa muunlaista informaatiota kuin omia uskomuksiaan yhä edelleen tukevia väitteitä.

– Ihmiset eivät näe algoritmeja eivätkä he tiedä niiden toimintatavasta, joten monet heistä eivät suostu edes uskomaan, että heitä huijataan niiden avulla. Esimerkiksi rokotevastaisiin salaliittoihin mukaan mennyttä ihmisiä on siksi oikeastaan jo aivan mahdotonta käännyttää, hän sanoo.

– Käännyttämisen sijaan käytän omaa energiaani mieluummin siihen, että yritän selittää tämän todellisuuden vääristymisongelman heille, jotka voivat ratkaista sen tulevien sukupolvien osalta, Vrabel sanoo viitaten eurooppalaisiin ja yhdysvaltalaisiin päättäjiin.

Semantic Visionsin johtaja Frantisek Vrabel (vas) esiintyi syyskuun alussa Tallinnan Lennart Meri -konferenssissa. Vrabelin kanssa lavalla on turvallisuuskonsultti Rob Bertholee.

Vrabelin mukaan tavallisilla ihmisillä ei ole nykyisellään myöskään mitään keinoa suojautua sosiaalisen median suosittelulogiikalta.

Perusjuoni kaiken takana on, että ihmisten tunteisiin vedotaan: saadaan heidät klikkaamaan kauhistuttavia, salaperäisiä, yllättäviä sekä vihaa herättäviä sisältöjä. Mitä enemmän ihminen näitä sisältöjä klikkaa, sitä enemmän hänelle niitä tarjotaan –  ja sitä enemmän sosiaalisen median jätit saavat rahaa näille sivustoille sijoitetuista mainoksista.

– Jos etsii esimerkiksi YouTubesta videoita, jotka liittyvät Kuulentoon, käyttäjä voi saada aluksi nähtävilleen aivan asiallisia videoita. Mutta pian YouTuben suosittelurobotti alkaa ehdottaa katsottavaksi erilaisia salaliittovideoita Kuulennosta.

Vrabelin mukaan Kiinan ja Venäjän propagandakoneistot hyödyntävät taitavasti kansainvälisten sosiaalisen median jättien profilointialgoritmeja, jotka on alkujaan kehitetty mainostajien tarpeeseen. Toisin sanoen ihmisten mieltymyksiä ja heidän heikkouksiaan analysoidaan, jotta heille saataisiin myytyä enemmän tavaroita – ja siinä sivussa myös ideologiaa ja ajatuksia.

Oma lukunsa ovat sen lisäksi esimerkiksi Venäjän omat sosiaalisen median alustat kuten VKontakte, jolla on Suomessakin paljon käyttäjiä myös suomenkielisen väestön keskuudessa.

– Venäjän viranomaiset kontrolloivat VKontaktea täysin. Voi sanoa, että he tietävät VKontakten käyttäjistä kaiken, koko heidän sosiaalisen dna:nsa, kaiken intiimeimmänkin heistä. Sen jälkeen tällaisia ihmisiä olisi helppo manipuloida esimerkiksi kriisitilanteissa, Vrabel varoittaa.

Vrabelilla on taustaa myös sotilaallisen tietoturvan parista. Tällä kokemuksella hän sanoo ihmettelevänsä suomalaisia, jotka ovat valinneet omaksi somealustakseen VKontakten.

– Suomalaisille VKontakten käyttäjille sanoisin, että heidän kannattaa miettiä, olisiko heille aivan ok, että Venäjä voisi seurata heidän liikkumistaan koko ajan. Tai kytkeä mikrofonin kuuntelemaan silloin, kun he olisivat keittiössä tai vaikkapa makuuhuoneessa.

Vrabel ei halua kertoa konkretiaa varoituksensa taustalle, mutta sanoo näin:

– Tiedustelupiireissä on avoin salaisuus, että Venäjä käyttää VKontakten tapaista teknologiaa tarkkailemaan käyttäjien käyttäytymistä ja tekemisiä. Suomalaiset eivät ole siinä suhteessa mikään poikkeus.

Frantisek Vrabel kiertää tiuhaan puhumassa eri Euroopan maiden ja Yhdysvaltain päättäjille seminaareissa, joissa keskustellaan muun muassa sosiaalisen median jättiyhtiöiden ansaintalogiikan muodostamista uhista.

Seuraavassa on lista keinoista, joita Vrabel ehdottaa tavoiksi torjua ihmisten todellisuuden vääristämistä internetissä. Hän on huolissaan ensisijaisesti Facebookista, mutta samat periaatteet pitäisi ulottaa hänen mukaansa koskemaan myös muita suuria sosiaalisen median palveluita.

1. Somejättien suosittelulogiikka eli käytetyt algoritmit on alistettava ulkopuoliselle tarkistukselle.

Vrabelin mukaan kukaan ulkopuolinen ei tiedä esimerkiksi Facebookin algoritmien toimintaa, sillä yhtiö varjelee niitä hänen mukaansa ”yksinomaan ahneuksissaan”.

Algoritmien ulkopuolinen auditointi olisi Vrabelin mukaan ainoa keino päästä käsiksi tapaan, jolla yhteiskuntia jaetaan nyt kahtia ja ihmisiä provosoidaan jopa Yhdysvaltain Capitol-kukkulan tapaisiin väkivaltaisiin hyökkäyksiin.

2. Somejäteiltä on kiellettävä ”mikrotargetointi” eli ihmisten tarkka profilointi mainostajien ja valtiollisen propagandan käyttöön.

Facebook ja muut sosiaalisen median jätit profiloivat ihmisiä niin kutsutun mikrotargetoinnin avulla. Suomeksi termin voisi kääntää esimerkiksi äärimmäisen tarkaksi kohdentamiseksi.

Yksittäinen ihminen ajattelee helposti, että hän ei ole niin kiinnostava, että hänen tekemisensä somessa kiinnostaisi ketään. Todellisuus on kuitenkin toinen: joka ikinen klikkaus analysoidaan ja niiden avulla jokaisesta somenkäyttäjästä muodostuu profiili, joka paljastaa hänen henkilökohtaiset intohimonsa ja heikkoutensa mainostajien tarpeeseen.

Mikrotargetointi mahdollistaa mainosten kohdentamisen juuri tietyille ihmisryhmille. Kun Facebook nostaa tunteisiin vetoavien sisältöjen näkyvyyttä ihmisten uutisvirrassa, näkyvyyttä saavat myös lukemattomat valeuutis- ja propagandasivustot, jotka puolestaan rahoittavat itseään Google Adsin kautta jaettavilla mainoksilla.

Jos algoritmeja muutettaisiin vähemmän ihmisten ääritunteita korostaviksi ja mikrotargetointi kiellettäisiin, Facebookin mainostulot putoaisivat Vrabelin arvion mukaan todella suuresti. Tämän vuoksi yhtiö tulee tekemään kaikkensa, ettei sen tarvitsisi muuttaa käytäntöjään.

3. Somepalveluiden käyttäminen on tehtävä mahdolliseksi ulkopuolisen – eli toisin sanoen eettiseen toimintaan sitoutuneen – palveluntarjoajan kautta.

Vrabelin mukaan esimerkiksi Facebook voitaisiin velvoittaa sallimaan palvelunsa käyttäminen ulkopuolisen palveluntarjoajan kautta. Hän uskoo, että moni ihminen olisi valmis maksamaan eettisemmästä ja puhtaammasta somepalvelusta, joka ei hyödyntäisi heidän intiimiä dataansa Facebookin tavoin.

Käyttämällä Facebookia ulkopuolisen palveluntarjoajan kautta ihminen voisi säilyttää sosiaalisen verkostonsa, mutta välttäisi altistumisen Facebookin algoritmeille.

4. Mainostajien ja yritysten on saatava helposti valita, millä sivustoilla he eivät halua mainostensa näkyvän.

Internetin valeuutis- ja salaliittosivustoista monia rahoitetaan esimerkiksi Google Adsin kautta jaettavilla mainoksilla. Yrityksillä itsellään ei ole usein aavistustakaan, mille sivustoille heidän mainoksensa päätyvät.

Vrabel havainnollistaa ongelmaa kertomalle esimerkin YK:n lastenrahaston eli Unicefin mainoksesta, joka päätyi valeuutissivustolle.

– Unicefin mainos oli sivustolla, joka levitti voimakasta pakolaisvastaista sanomaa. Näin Unicef tuli tietämättään tukeneeksi tätä sivustoa rahallisesti, kun heidän mainoksensa meni sinne Google Adsin kautta, Vrabel kuvailee.

Vrabelin mukaan Tshekissä on kehitetty onnistuneesti mallia, jossa maan oma hakukone Seznam tarjoaa mainostajille valittavaksi, mille sivustoille heidän mainoksensa päätyy. Mainostajien päätöksen tueksi Konspiratori-sivusto on listannut Tshekissä ja Slovakiassa havaittuja disinformaatiosivustoja. Ketään ei estetä mainostamasta myös näillä sivustoilla, mutta Seznam tekee mainostajille näkyväksi, kuinka he voivat halutessaan välttää näitä sivustoja.

5. EU:n ja Yhdysvaltain on otettava käyttöön lainsäädäntöä, jolla somejättien etiikkaa valvotaan.

Edellä luetellut neljä keinoa ovat yksityiskohtia, joihin kaikkiin puuttuminen vaatisi lainsäädäntöä sekä Yhdysvalloista että Euroopan maiden sisältä.

Vrabelin mukaan somejätit pitäisi saada noudattamaan eettisiä pelisääntöjä samalla tavalla kuten nykyisin valvotaan esimerkiksi internetin uhkapelaamista tai säädellään sitä, ettei useilla eri yritysaloilla pääse kehittymään monopoliasemaa.

Osion tuoreimmat

Luitko jo nämä?