Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.
MAINOS (TEKSTI JATKUU ALLA)
MAINOS PÄÄTTYY

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      6 esimerkkiä: Eläkeläispari, yksinhuoltajat, duunarit... Näin erilaisten perheiden tulot muuttuvat ensi vuonna

    2. 2

      3 kk:n koulutus ja varma työpaikka? Teemun, 35, työtilanne on nyt parempi kuin koskaan: ”Poikkeuksellista aikaa”

    3. 3

      Asutko keskimääräistä leveämmin? Katso kotikuntasi asuntojen keskikoko – alueelliset erot valtavia

    4. 4

      Suomalaiselle duunarille tarjotaan Norjassa lähtöpalkaksi 3500 €/kk – ”Kyllä siellä säästöönkin pystyy rahaa saamaan”

    5. 5

      Palkka 4100 e/kk, mutta töihin ei löydy osaajia – liitto: syynä kaksi ongelmaa

    6. 6

      Yli sadan ammatin tulot julki – saatko näin paljon tuntipalkkaa?

    7. 7

      Suomen suurimman pankin johtoon nousee intohimoinen suunnistaja ja tuloksia vaativa ”villasukkamies”

    8. 8

      Kiinalaisturistit himoitsevat Suomesta meripihkaa – ”Ostavat joskus yli 10 000 eurolla”

    9. 9

      Suomalaisperheet säästävät entistä vähemmän – ”Eletään yli tulojen, muttei sentään yli varojen”

    10. 10

      Kommentti: Suomen kilpailukykyä ei tuhonnut Sari Sairaanhoitaja – näin syntyi myytti holtittomista palkankorotuksista

    11. Näytä lisää
    1. 1

      Suomalaiselle duunarille tarjotaan Norjassa lähtöpalkaksi 3500 €/kk – ”Kyllä siellä säästöönkin pystyy rahaa saamaan”

    2. 2

      6 esimerkkiä: Eläkeläispari, yksinhuoltajat, duunarit... Näin erilaisten perheiden tulot muuttuvat ensi vuonna

    3. 3

      Asutko keskimääräistä leveämmin? Katso kotikuntasi asuntojen keskikoko – alueelliset erot valtavia

    4. 4

      Yli sadan ammatin tulot julki – saatko näin paljon tuntipalkkaa?

    5. 5

      Kommentti: Suomen kilpailukykyä ei tuhonnut Sari Sairaanhoitaja – näin syntyi myytti holtittomista palkankorotuksista

    6. 6

      Palkka 4100 e/kk, mutta töihin ei löydy osaajia – liitto: syynä kaksi ongelmaa

    7. 7

      Kiinalaisturistit himoitsevat Suomesta meripihkaa – ”Ostavat joskus yli 10 000 eurolla”

    8. 8

      Suomen suurimman pankin johtoon nousee intohimoinen suunnistaja ja tuloksia vaativa ”villasukkamies”

    9. 9

      Valmetin tehtaalla 370 työntekijää lakkoon – johtaja: sain listan vaatimuksia

    10. 10

      Onko Nordean tulo riski? Jyrki Katainen: EU:n talletus­suojakysymys näyttäytyy Suomessa toisessa valossa

    11. Näytä lisää
    1. 1

      Lähihoitaja nipistää palkastaan 1 000 €/kk lapsille ja säästöön – näin se käy

    2. 2

      Yli sadan ammatin tulot julki – saatko näin paljon tuntipalkkaa?

    3. 3

      Opettaja menetti yllättäen 2000 euron tuet – työttömille kaikessa hiljaisuudessa luotu uusi nettivelvoite raivostuttaa

    4. 4

      Palkka 4100 e/kk, mutta töihin ei löydy osaajia – liitto: syynä kaksi ongelmaa

    5. 5

      Katso tienaatko enemmän kuin tavallinen suomalainen – uudet palkkatiedot julki

    6. 6

      5 erilaista säästäjää kertoo: Näin sijoittaisin 100 €/kk ja 500 € kerralla

    7. 7

      Uuden ammattibarometrin Top 15 -listat: Näillä aloilla työntekijöistä on pulaa – eniten tarjokkaita sihteereiksi

    8. 8

      Synkkä tutkimus suomalaisesta työelämästä: Jo 25 000 nuorta eläkkeellä

    9. 9

      Kun riita yksityistiestä kestää sukupolvien ajan: mökkiläinen kiusaa perhettä Savossa – ”Pahinta on arvaamattomuus”

    10. 10

      Katastrofaalinen sää uhkaa tuhota Juhon, 43, sadon – aamulla tuli uusi takaisku

    11. Näytä lisää