Facebook julkaisi teko­älyn – kääntyi heti isäntäänsä vastaan

Facebookin uusi tekoäly-chatbot ei vaikuta olevan luojansa ylin ystävä.

Meta ymmärtää, että sen tekoäly voi sortua sopimattomaan kielenkäyttöön.

11.8. 16:03

Meta eli entinen Facebook kokeilee uutta tekstiperäiseen keskusteluun kykenevää tekoälyä eli chatbottia. Vice Motherboardin keskustelu kyseisen BlenderBot 3:n kanssa suistui kuitenkin nopeasti raiteiltaan. Tekoäly sanoi Facebookin myyvän käyttäjien tietoja luvatta ja ilman korvausta ja poistaneensa Facebook-tilinsä.

– Poistettuani Facebookin elämästäni, se on ollut paljon parempaa, chatbot tokaisi.

Välillä botti eksyi myös rasismin puolelle. Vastausten klikkaaminen antaa niistä lisätietoja, jotka paljastivat tekoälyn nojaavan suosittuihin Facebookia koskeviin hakutuloksiin netissä ja niiden joukossa on arvattavasti paljon palvelua rankasti arvostelevia kommentteja.

Tässäkin tapauksessa tekoäly on siis vain niin hyvä kuin sen kouluttamiseen käytetty materiaali. Kasvontunnistukseen käytetty tekoäly saattaa tehdä enemmän virheitä tummaihoisten kohdalla, jos opetukseen on käytetty lähinnä valkoihoisia.

Myös Googlen LaMDA-tekoälyä on väitetty ongelmalliseksi. Googlen entinen insinööri Blake Lemoine kertoi äskettäin, että tekoäly esimerkiksi luonnehti muslimeja kristittyjä väkivaltaisemmiksi. Omat ongelmansa oli myös Microsoftin surullisenkuuluisalla Tay-chatbotilla.

Lue lisää: Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Lue lisää: Googlelta potkittu insinööri lataa kovia syytöksiä – haukkuu teko­älyä rasistiseksi ja syrjiväksi

BlenderBot 3:n ongelmat ovat Metan tiedossa. Tekoälyjohtaja Joelle Pineau toteaa blogissa, että tekoäly saattaa antaa valheellisia tai loukkaavia lausuntoja.

– Vaikka tekee kipeää nähdä joitakin näitä loukkaavia vastauksia, tämän kaltaiset julkiset kokeilut ovat tärkeitä vankkojen ja keskustelevien tekoälyjärjestelmien rakentamiseksi, Pineau katsoo.

BlenderBot 3:a testataan toistaiseksi vain Yhdysvalloissa. Pineaun mukaan palautetta on saatu 260 000 botin viestistä, joista 0,11 prosenttia tulkittiin sopimattomiksi ja 1,36 prosenttia hölynpölyksi.

Mitä tulee Facebookiin ja sen tapoihin käsitellä käyttäjiensä tietoja, Vicen keväinen artikkeli ei sekään antanut aiheesta ruusuista kuvaa. Artikkelin mukaan Facebook ei tiedä, minne kaikkialle sen käyttäjätiedot menevät tai mitä se niillä tekee.

Osion tuoreimmat

Luitko jo nämä?