Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.
MAINOS (TEKSTI JATKUU ALLA)
MAINOS PÄÄTTYY

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Tässä suomalaisfirmassa ei ole yhtään esimiestä – ja uusi työntekijä saa ”lomalainaa”

    2. 2

      Jarkko, 46, saa perustuloa 560 €/kk ja pyörittää suklaakauppaa – ”Rohkenin aloittaa tämän ansiosta”

    3. 3

      Yli 4 000 euron tulot, hulppea asunto ja kallis auto – tällainen voi olla ”rikas köyhä”

    4. 4

      Perustulo oli ensin järkytys: lähihoitaja Veera, 30, on tyytyväinen kokeiluun – sai vakituisen työn

    5. 5

      Korjausliikkeen riski voimistuu bitcoinissa – kuka pelastaa kryptovaluutan?

    6. 6

      Jan Hurrin kommentti: Totta kai kansa kuluttaa yli varojensa, kun velkaa saa ilmaiseksi

    7. 7

      Perhe osti valmistalon, jossa he eivät voi asua: ”Kotimme arvo on pankin mukaan 0 euroa”

    8. 8

      Rakennusalan konkari Pekka valmistaloista: Huonolla tuurilla jää vain kivijalka ja 300 000 € lainaa

    9. 9

      Työpaikkojen sisäilmaongelmista kertominen vaikeaa – asiasta raportoineet kokevat tulleensa syrjityiksi

    10. 10

      Näin Kesko, Lidl ja S-ryhmä varautuvat alkoholi­kaupan mullistukseen marketeissa: ”Ehdottomasti on Pirkan nelosta tulossa”

    11. Näytä lisää
    1. 1

      Tässä suomalaisfirmassa ei ole yhtään esimiestä – ja uusi työntekijä saa ”lomalainaa”

    2. 2

      Jarkko, 46, saa perustuloa 560 €/kk ja pyörittää suklaakauppaa – ”Rohkenin aloittaa tämän ansiosta”

    3. 3

      Perustulo oli ensin järkytys: lähihoitaja Veera, 30, on tyytyväinen kokeiluun – sai vakituisen työn

    4. 4

      Jan Hurrin kommentti: Totta kai kansa kuluttaa yli varojensa, kun velkaa saa ilmaiseksi

    5. 5

      Bloomberg: Deutsche Bank sai haasteen Muellerilta – syynä asiakas Donald Trump

    6. 6

      Korjausliikkeen riski voimistuu bitcoinissa – kuka pelastaa kryptovaluutan?

    7. 7

      Rakennusalan konkari Pekka valmistaloista: Huonolla tuurilla jää vain kivijalka ja 300 000 € lainaa

    8. 8

      Testaa, miten hyvin tunnet valuutat: 10 kysymyksen visa paljastaa näppituntumasi

    9. 9

      Espoolainen joulupukki kertoo hintansa – hämmästelee Porvoon pukin taksaa: ”Kuulostaa jo ihan mielettömältä”

    10. 10

      Yli 4 000 euron tulot, hulppea asunto ja kallis auto – tällainen voi olla ”rikas köyhä”

    11. Näytä lisää
    1. 1

      Perhe osti valmistalon, jossa he eivät voi asua: ”Kotimme arvo on pankin mukaan 0 euroa”

    2. 2

      Espoolainen joulupukki kertoo hintansa – hämmästelee Porvoon pukin taksaa: ”Kuulostaa jo ihan mielettömältä”

    3. 3

      Perheenisä Pasi pelkää talvea: Avaimet käteen -talo sai energialuokan G – ”Ei varaa muuttaa terveempään taloon”

    4. 4

      ”Autojobbari Antti tienaa yli 70 000 euroa vuodessa ja viettää luksuselämää” – verottajalle vyöryy vinkkejä autokaupasta

    5. 5

      Halkoja, aurausta, mökin laajennusta – näin tavallinen kansa välttelee veroja

    6. 6

      Työttömyystukiin tulee uusi leikkuri – näin toimii kiistelty ”aktiivimalli”

    7. 7

      Tässä suomalaisfirmassa ei ole yhtään esimiestä – ja uusi työntekijä saa ”lomalainaa”

    8. 8

      Muovisissa vesijohdoissa piilee riski – suositellaan juoksuttamaan vettä

    9. 9

      Rakennusalan konkari Pekka valmistaloista: Huonolla tuurilla jää vain kivijalka ja 300 000 € lainaa

    10. 10

      Jarkko, 46, saa perustuloa 560 €/kk ja pyörittää suklaakauppaa – ”Rohkenin aloittaa tämän ansiosta”

    11. Näytä lisää