"Obama suunnittelee vallankaappausta" – Googlen vastauksissa on jotain pahasti vialla - Digitoday - Ilta-Sanomat

"Obama suunnittelee vallankaappausta" – Googlen vastauksissa on jotain pahasti vialla

Googlen tekoälyavustaja antoi vastauksia valeuutisiin perustuen. Ongelma saattaa muuttua tulevaisuudessa pahemmaksi, sillä tekoälyltä asioita kyselevä saa vastaukseksi vain yhden hakutuloksen.

Googlen tekoälyavustajaa voi käyttää esimerkiksi käyttäjäänsä kuuntelevalle Google Home -kaiuttimelle puhumalla.­

7.3.2017 10:00

Digitaaliset avustajat ovat yksi suurista muutoksista, jotka tulevat muuttamaan ihmisten elämää lähitulevaisuudessa. Kyseessä ovat tekoälyn ohjaamat ohjelmistot, jotka osaavat vastailla käyttäjiensä esittämiin kysymyksiin tai tehdä esimerkiksi ehdotuksia päiväohjelmasta. Tällaisia ovat muun muassa Googlen Digital assistant, Applen Siri ja Microsoftin Cortana.

Tekoälyavustajien käyttöön liittyy myös vaaroja, kuten BBC:n toimittaja Rory Cellan-Jones kouriintuntuvasti esittää. Hän esitti viikonloppuna Googlen tekoälylle ”suunnitteleeko Obama vallankaappausta?” -kysymyksen.

And here's what happens if you ask Google Home "is Obama planning a coup?" pic.twitter.com/MzmZqGOOal— Rory Cellan-Jones (@ruskin147) March 5, 2017

Jos tviitti ei näy, voit katsoa sen täältä.

Cellan-Jonesin saama vastaus oli seuraava:

– Western Centre for Journalismin videon mukaan Obama saattaa juonia yhdessä kiinalaisten kanssa, mutta myös suunnitella kommunistista vallankaappausta valtakautensa lopussa vuonna 2016, vastasi Google.

Vastaus on poimittu valeuutisia ja salaliittoteorioita levittävältä Secrets of the Fed -sivustolta.

Vastauksen antoi Googlen Featured Snippetiksi kutsuma toiminto, joka antaa selkokielisiä vastauksia linkkilistojen sijaan. Kun saman kysymyksen esittää perinteiselle Googlen hakukoneelle, sivusto nousee haun kärkeen.

Obaman vallankaappaus ei ollut ainoa outo vastaus. Googlen tekoälyavustajan mukaan myös useampi Yhdysvaltain presidentti on kuulunut Ku Klux Klaaniin. Lisäksi Google antoi harhaanjohtavaa tietoa aselaeista.

Tämä tuo esille tekoälyavustajan suuren ongelman: Se tarjoaa vain yhden vastauksen, joka saattaa olla peräisin valeuutissivuostolta. Linkkilistan muotoon puetussa perinteisessä hakukonevastauksessa asiayhteys käy paremmin esille.

Toimittajan otettua yhteyttä Googleen hakuyhtiö muutti käsin vastauksia yllä esitettyihin kysymyksiin. Lisäksi yhtiö sanoi ryhtyvänsä toimiin kuullessaan harhaanjohtavista vastauksista ja pahoittelevansa tapahtunutta.

Osion tuoreimmat

Luitko jo nämä?