Digitoday

Valikko

Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.


Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Hollywoodin tähtipari eroaa 17 vuoden avioliiton jälkeen

    2. 2

      Clinton hyökkäsi rajusti Trumpia vastaan – ”Jotkut jopa kiistävät asioita, jotka näemme omilla silmillämme”

    3. 3

      Tietoa Michael Schumacherin tilasta varjellaan visusti – nyt perheen vaikenemiselle saatiin selitys

    4. 4

      Tanja, 43, lähtee Suomesta – paluulippua ei ole: 700 euron kuukausibudjetti, ohjenuorana minimalismi

    5. 5

      Kuvat: Dingo on palannut – legendaarinen yhtye nousi keikkalavalle ensimmäistä kertaa 15 vuoteen!

    6. 6

      Andy McCoy haukkui ja käskytti Maria Veitolaa tv:ssä – Veitolan vastareaktio leviää somessa

    7. 7

      Aromipesän ja Passeli-ohjelman kehittäjä, miljonääri Heikki Taipale, 54, on kuollut

    8. 8

      14-vuotias tyttö putosi kallionkielekkeeltä ja loukkaantui vakavasti

    9. 9

      Eurojackpotissa yksi täysosuma: Tänne meni 50,2 miljoonaa euroa – Suomeen kuusinumeroisia voittoja

    10. 10

      He ovat Manchesterin terrori-iskun uhrit: 22 ihmistä kuoli, 8-vuotias Saffie oli heistä nuorin

    11. Näytä lisää
    1. 1

      Roope Salminen haastatteli Cheyenne Järvistä – Sara Sieppi raivostui: ”Parempi reitti kuin reittä pitkin”

    2. 2

      Tietoa Michael Schumacherin tilasta varjellaan visusti – nyt perheen vaikenemiselle saatiin selitys

    3. 3

      Trump tönäisi pääministerin tylysti tieltään Nato-kokouksessa – video tilanteesta leviää

    4. 4

      Andy McCoy haukkui ja käskytti Maria Veitolaa tv:ssä – Veitolan vastareaktio leviää somessa

    5. 5

      Varattu Sonja rakastui Temptation Islandilla palavasti sinkku-Miikkaan – muuttivat heti yhteen: näin heillä menee nyt

    6. 6

      Ivanka, Melania ja Donald Trump sekä paavi asettuivat riviin – vain yksi hymyili ja internet sekosi

    7. 7

      Verohallinto julkaisi metkan kuvan: Asiakas lähetti veroilmoituksen verkossa – kyllä, verkossa

    8. 8

      Mysteeri Mount Everestillä: kahdesta teltasta löytyi neljä tuntematonta ruumista – ”eivät ole tältä kiipeilykaudelta”

    9. 9

      Tellervo Koivisto laski arkulle yhden tulipunaisen ruusun – mistä ele kertoo?

    10. 10

      Miksi Temptation Islandin salatut seksikohtaukset eivät näkyneet tv:ssä? Sami Kuronen paljastaa: Näin he jäivät kiinni

    11. Näytä lisää
    1. 1

      IS seuraa hetki hetkeltä: Ainakin 22 kuoli Manchesterin iskussa – epäilty tallentui valvontakameraan

    2. 2

      Vain harva tajusi: prinsessa Dianan käsilaukulla oli salainen tarkoitus – hämäsi valokuvaajia ovelalla kikalla

    3. 3

      Sami Hedbergin fanit raivostuivat jäähallikeikan jälkeen – ”P**ka maku jäi tästä”

    4. 4

      Ratapölkyn haju paljasti omakotitalosta ikävän yllätyksen –myyjä joutuu palauttamaan 202000 euroa

    5. 5

      Kaksi ruoka-ainetta karsimalla suoliston kunto voi parantua jo muutamassa viikossa

    6. 6

      Kätilöt paljastavat hulluimmat synnytyksensä: ”Äiti yritti saada orgasmin joka supistuksella”

    7. 7

      Varo nopeasti leviävää Facebook-virusta! Tarkista tilisi, saatat jakaa huijauslinkkejä tietämättäsi

    8. 8

      Tunteikas kuva presidentti Koiviston hautajaisista: Assi Koivisto näytti hellän puolensa

    9. 9

      Yksinäinen 12-vuotias tyttö etsi ystävää Facebookista – ensitapaamisesta tuli kauhukokemus

    10. 10

      Kulmat minttiin ja verkkarit pyllyyn – aikuinen nainen testasi teinityttöjen suosikkityylin

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Hollywoodin tähtipari eroaa 17 vuoden avioliiton jälkeen

    2. 2

      Clinton hyökkäsi rajusti Trumpia vastaan – ”Jotkut jopa kiistävät asioita, jotka näemme omilla silmillämme”

    3. 3

      Tietoa Michael Schumacherin tilasta varjellaan visusti – nyt perheen vaikenemiselle saatiin selitys

    4. 4

      Tanja, 43, lähtee Suomesta – paluulippua ei ole: 700 euron kuukausibudjetti, ohjenuorana minimalismi

    5. 5

      Kuvat: Dingo on palannut – legendaarinen yhtye nousi keikkalavalle ensimmäistä kertaa 15 vuoteen!

    6. Näytä lisää
    1. 1

      Roope Salminen haastatteli Cheyenne Järvistä – Sara Sieppi raivostui: ”Parempi reitti kuin reittä pitkin”

    2. 2

      Tietoa Michael Schumacherin tilasta varjellaan visusti – nyt perheen vaikenemiselle saatiin selitys

    3. 3

      Trump tönäisi pääministerin tylysti tieltään Nato-kokouksessa – video tilanteesta leviää

    4. 4

      Andy McCoy haukkui ja käskytti Maria Veitolaa tv:ssä – Veitolan vastareaktio leviää somessa

    5. 5

      Varattu Sonja rakastui Temptation Islandilla palavasti sinkku-Miikkaan – muuttivat heti yhteen: näin heillä menee nyt

    6. Näytä lisää
    1. 1

      IS seuraa hetki hetkeltä: Ainakin 22 kuoli Manchesterin iskussa – epäilty tallentui valvontakameraan

    2. 2

      Vain harva tajusi: prinsessa Dianan käsilaukulla oli salainen tarkoitus – hämäsi valokuvaajia ovelalla kikalla

    3. 3

      Sami Hedbergin fanit raivostuivat jäähallikeikan jälkeen – ”P**ka maku jäi tästä”

    4. 4

      Ratapölkyn haju paljasti omakotitalosta ikävän yllätyksen –myyjä joutuu palauttamaan 202000 euroa

    5. 5

      Kaksi ruoka-ainetta karsimalla suoliston kunto voi parantua jo muutamassa viikossa

    6. Näytä lisää