Digitoday

Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.


Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.
MAINOS (TEKSTI JATKUU ALLA)
MAINOS PÄÄTTYY

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Tom Jonesin 29-vuotias poika elää kodittomana kadulla – isä ei halua olla lapsensa kanssa missään tekemisissä: ”Lapsi ei ollut suunniteltu”

    2. 2

      Dramaattinen muutos säässä Etelä-Suomessa: lunta voi tulla kohta jopa 30 senttiä

    3. 3

      Ruotsin urheilugaalassa nolo moka: vakavasti vammautunut Anna Holmlund pahoitti mielensä rankasta videosta

    4. 4

      Kaupunki hälytystilassa Japanissa: Kaksi hengenvaarallista pallokalaa kateissa

    5. 5

      Varo S-marketin nimissä tulevaa vilpillistä tekstiviestiä – voi johtaa 78 euron kuukausimaksuun

    6. 6

      Raivomyräkkä riehuu Ruotsissa – näin myrsky etenee kohti Suomea

    7. 7

      Alakoululainen painui jään läpi Kankaanpäässä – kaupungin työntekijät pelastivat

    8. 8

      Kalifornian kauhujen talon kaksoiselämä: Facebook-kuvia Disneylandista ja Vegasista, kotona lapset kahlittiin kammottaviin oloihin

    9. 9

      Prinsessa Sofia purjehti gaalaan vartaloa korostavassa asussa – ruotsalaislehti ihmettelee pukuvalintaa: ”Valju asu”

    10. 10

      Kommentti: Presidentti Niinistö, Venäjällä EU:ta pidetään jo vihollisena

    11. Näytä lisää
    1. 1

      Autoilija ajoi ikkunat huurussa ABC-asemalle, eikä poliisi ”ollut 20 vuoden aikana nähnyt yhtä tyhmää miestä”

    2. 2

      Anna-Leena Härkönen ärsyyntyi Teneriffan-lennollaan rasittavasta ilmiöstä koneen vessajonossa – oletko huomannut tällaista käytöstä?

    3. 3

      Viisikymppinen Marja vapautui avioeron jälkeen harrastamaan seksibileitä ja parinvaihtoa: ”Tämän ikäinen nainen on tosi kuumaa kamaa”

    4. 4

      13 sisarusta löydettiin kammottavista oloista kotoaan Yhdysvalloissa – vanhemmille syytteet kidutuksesta

    5. 5

      Haluatko vähentää vatsarasvaa? Yksi treeni on yli muiden

    6. 6

      14-vuotias tyttö heräsi asuntovaunusta – väitti poliisille joutuneensa yhdeksän miehen raiskaamaksi

    7. 7

      Raivomyräkkä riehuu Ruotsissa – näin myrsky etenee kohti Suomea

    8. 8

      Helsinkiläinen Hannah laittoi yhden ilmoituksen nettiin – kohta koko asunto oli sisustettu ilmaiseksi

    9. 9

      Alokkaalta ja alikersantilta sama härski teko toista varusmiestä kohtaan – aivan erilaiset rangaistukset

    10. 10

      Sebastian Aholle vakavat vammat hirmutaklauksesta – seuralta tuore ilmoitus jatkosta

    11. Näytä lisää
    1. 1

      Äiti aavisti pahaa, kun Sanna-Marin Facebook-kuva oli vaihtunut yöllä – kodista paljastui kauhein mahdollinen painajainen

    2. 2

      Tallinnalaisen 19-vuotiaan fitness-kaunottaren kuvapari omasta takapuolestaan herätti vihaista keskustelua Instagramissa – ”Oletko tosissasi?”

    3. 3

      Nuorukainen palautti pulloja K-Marketiin – hetken kuluttua alkoi naismyyjän piina

    4. 4

      10 asiaa, jotka jokaisen pitäisi hävittää kodistaan heti

    5. 5

      Tällaisia ovat vanhempien naisten seksimatkat Gambiassa – nuoret ”rantapojat” tarjoavat seuraa häkellyttävän aktiivisesti

    6. 6

      Influenssa jyllää nyt koko maassa, perusterveitä aikuisia joutunut sairaalahoitoon – näillä alueilla on eniten tartuntoja

    7. 7

      Tyttö pakeni 13-vuotiaana pahamaineisesta Jumalan lapset -seksikultista – hirvittävät yksityiskohdat paljastuivat tv:ssä

    8. 8

      Kadonneen jäljillä: Oottin, 33, vuosien etsintä päättyi – Thaimaasta löytyneelle pikkuveljelle paljastui murheellinen totuus

    9. 9

      Muistatko vielä hittiyhtye Kwanin Marikon? Vaihtoi täysin alaa: tältä hän näyttää nyt!

    10. 10

      Hugh Hefnerin leski Crystal, 31, palasi julkisuuteen täysin muuttuneena – povipommityyli on nyt historiaa: elelee elatusmaksuilla

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Tom Jonesin 29-vuotias poika elää kodittomana kadulla – isä ei halua olla lapsensa kanssa missään tekemisissä: ”Lapsi ei ollut suunniteltu”

    2. 2

      Dramaattinen muutos säässä Etelä-Suomessa: lunta voi tulla kohta jopa 30 senttiä

    3. 3

      Ruotsin urheilugaalassa nolo moka: vakavasti vammautunut Anna Holmlund pahoitti mielensä rankasta videosta

    4. 4

      Kaupunki hälytystilassa Japanissa: Kaksi hengenvaarallista pallokalaa kateissa

    5. 5

      Varo S-marketin nimissä tulevaa vilpillistä tekstiviestiä – voi johtaa 78 euron kuukausimaksuun

    6. Näytä lisää
    1. 1

      Autoilija ajoi ikkunat huurussa ABC-asemalle, eikä poliisi ”ollut 20 vuoden aikana nähnyt yhtä tyhmää miestä”

    2. 2

      Anna-Leena Härkönen ärsyyntyi Teneriffan-lennollaan rasittavasta ilmiöstä koneen vessajonossa – oletko huomannut tällaista käytöstä?

    3. 3

      Viisikymppinen Marja vapautui avioeron jälkeen harrastamaan seksibileitä ja parinvaihtoa: ”Tämän ikäinen nainen on tosi kuumaa kamaa”

    4. 4

      13 sisarusta löydettiin kammottavista oloista kotoaan Yhdysvalloissa – vanhemmille syytteet kidutuksesta

    5. 5

      Haluatko vähentää vatsarasvaa? Yksi treeni on yli muiden

    6. Näytä lisää
    1. 1

      Äiti aavisti pahaa, kun Sanna-Marin Facebook-kuva oli vaihtunut yöllä – kodista paljastui kauhein mahdollinen painajainen

    2. 2

      Tallinnalaisen 19-vuotiaan fitness-kaunottaren kuvapari omasta takapuolestaan herätti vihaista keskustelua Instagramissa – ”Oletko tosissasi?”

    3. 3

      Nuorukainen palautti pulloja K-Marketiin – hetken kuluttua alkoi naismyyjän piina

    4. 4

      10 asiaa, jotka jokaisen pitäisi hävittää kodistaan heti

    5. 5

      Tällaisia ovat vanhempien naisten seksimatkat Gambiassa – nuoret ”rantapojat” tarjoavat seuraa häkellyttävän aktiivisesti

    6. Näytä lisää