Digitoday

Valikko

Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.


Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      87 miljoonan Eurojackpot-voitto meni kolmen porukalle

    2. 2

      48 miljoonaa lotossa voittanut pariskunta erosi: Aluksi yksinkertaiset suunnitelmat megapotin suhteen – mutta ne muuttuivatkin

    3. 3

      Hirvensalmella maalaistalossa kuolonuhri ja 2 vakavasti loukkaantunutta nuorta – ovat talon asukkaita

    4. 4

      Suihkuun aamulla vai illalla? Asiantuntijoilla on selkeä vastaus

    5. 5

      Lapin suurituloisimpiin kuulunutta yrittäjää syytetään suurista veropetoksista – epäillään hävittäneen kirjanpitoa 10 vuoden ajan

    6. 6

      Yhdysvallat kutsui koko senaattinsa Valkoiseen taloon Pohjois-Korean tilanteen vuoksi

    7. 7

      Takatalvi iski – katso 13 lukijan kuvaa Etelä-Suomesta

    8. 8

      ISTV:n suora lähetys kello 12: Kuinka tulenarka Pohjois-Korean tilanne oikeasti on?

    9. 9

      Näyttelijä Matti Viironen on kuollut

    10. 10

      Neljän mallikaunottaren bikinikuva hämmästyttää somessa – huomaatko kuvassa jotain erikoista?

    11. Näytä lisää
    1. 1

      Suihkuun aamulla vai illalla? Asiantuntijoilla on selkeä vastaus

    2. 2

      Kuvat: Temptation Islandiin uusi pariskunta – Pauliina, 21, rikkoo heti rajat poikaystävän selän takana

    3. 3

      Hups! Demi Mooren, 54, asuvalinta teki tähdelle tepposet – avonainen mekko paljasti rinnan

    4. 4

      Minttu Räikkösen hulppea lapsuudenkoti uima-altaineen myynnissä – 7 huonetta ja 558 000 euron hintapyyntö

    5. 5

      56-vuotiaana menehtyneen Onnen päivät -tähden kuolinsyy selvisi – ystävä kertoo surullisista viimeisistä viikoista

    6. 6

      Tiedätkö mitä ovat ramu, ebin tai MP? Testaa, hallitsetko nuorisokielen!

    7. 7

      Osaatko ratkaista puusepän pulman?

    8. 8

      Presidenttiehdokas Macronin, 39, ja Brigitte-vaimon, 64, ”kielletty rakkaus” – lukiolaispojan ja opettajan suhde järkytti vanhempia

    9. 9

      Syyllistytkö johonkin näistä? Suomalaisten 3 sietämättömintä saunatapaa

    10. 10

      Huippusuosittu tv-tähti erakoitui ja lukittautui kartanoonsa – nähtiin ensimmäistä kertaa julkisuudessa yli kolmeen vuoteen

    11. Näytä lisää
    1. 1

      Hätkähdyttävä näky Padasjoen ABC:lla – sotilas asteli kahvilinjastolle rynnäkkökivääri mukanaan

    2. 2

      Äiti kosti poikansa röyhkeän tempun haudan takaa – vanhan äidin rahastaminen ei onnistunutkaan loppuun asti

    3. 3

      Nanna Karalahti ja Jere Karalahti: Ero!

    4. 4

      Nuori nainen julkaisi seksikkään takaapäin otetun kuvan – törkyinen detalji makuuhuoneessa varasti kaikkien huomion

    5. 5

      Samu Haber esitti kuohuttaneen Joutsenlaulu-version tv:ssä – katsojilta yksimielinen tuomio vedolle

    6. 6

      Poikaystävä jäi kiinni pettämisestä nololla tavalla kesken romanttisen illallisen – ravintolan Facebook-vastaus leviää vauhdilla

    7. 7

      Poliisi vahvistaa: Herttoniemenrannasta löytynyt ruumis on kateissa ollut Valtteri Ihalainen

    8. 8

      Radiojuontaja Kim Sainio kilahti täysin kesken juonnon – raivosi ja kirosi: Haastattelu Matti Nykäsen kanssa meni pieleen

    9. 9

      Näitä ennen ihan normaaleja asioita nykylapset eivät enää saa tehdä

    10. 10

      Kuvat: Temptation Islandiin uusi pariskunta – Pauliina, 21, rikkoo heti rajat poikaystävän selän takana

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      87 miljoonan Eurojackpot-voitto meni kolmen porukalle

    2. 2

      48 miljoonaa lotossa voittanut pariskunta erosi: Aluksi yksinkertaiset suunnitelmat megapotin suhteen – mutta ne muuttuivatkin

    3. 3

      Hirvensalmella maalaistalossa kuolonuhri ja 2 vakavasti loukkaantunutta nuorta – ovat talon asukkaita

    4. 4

      Suihkuun aamulla vai illalla? Asiantuntijoilla on selkeä vastaus

    5. 5

      Lapin suurituloisimpiin kuulunutta yrittäjää syytetään suurista veropetoksista – epäillään hävittäneen kirjanpitoa 10 vuoden ajan

    6. Näytä lisää
    1. 1

      Suihkuun aamulla vai illalla? Asiantuntijoilla on selkeä vastaus

    2. 2

      Kuvat: Temptation Islandiin uusi pariskunta – Pauliina, 21, rikkoo heti rajat poikaystävän selän takana

    3. 3

      Hups! Demi Mooren, 54, asuvalinta teki tähdelle tepposet – avonainen mekko paljasti rinnan

    4. 4

      Minttu Räikkösen hulppea lapsuudenkoti uima-altaineen myynnissä – 7 huonetta ja 558 000 euron hintapyyntö

    5. 5

      56-vuotiaana menehtyneen Onnen päivät -tähden kuolinsyy selvisi – ystävä kertoo surullisista viimeisistä viikoista

    6. Näytä lisää
    1. 1

      Hätkähdyttävä näky Padasjoen ABC:lla – sotilas asteli kahvilinjastolle rynnäkkökivääri mukanaan

    2. 2

      Äiti kosti poikansa röyhkeän tempun haudan takaa – vanhan äidin rahastaminen ei onnistunutkaan loppuun asti

    3. 3

      Nanna Karalahti ja Jere Karalahti: Ero!

    4. 4

      Nuori nainen julkaisi seksikkään takaapäin otetun kuvan – törkyinen detalji makuuhuoneessa varasti kaikkien huomion

    5. 5

      Samu Haber esitti kuohuttaneen Joutsenlaulu-version tv:ssä – katsojilta yksimielinen tuomio vedolle

    6. Näytä lisää