Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.
MAINOS (TEKSTI JATKUU ALLA)
MAINOS PÄÄTTYY

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Francoise Bettencourt Meyers nousi maailman rikkaimmaksi naiseksi

    2. 2

      Yle: Valtion omistama Terrafame järjestää hirvijahtiviikonlopun – yt-neuvottelut käynnissä samaan aikaan

    3. 3

      Näin nappaat verohyödyn eläkkeen nostamisesta ennakkoon: töitä ei tarvitse lopettaa – katso laskelmat

    4. 4

      6 esimerkkiä: Eläkeläispari, yksinhuoltajat, duunarit... Näin erilaisten perheiden tulot muuttuvat ensi vuonna

    5. 5

      490 kilometriä ali Englannin kanaalin ilman vessataukoja: tästä maksetaan jopa 6 000 e/kk

    6. 6

      Löytyykö kaapistasi mahdollinen meripihka-aarre? Näin ammattilainen määrittelee ”itäblokin kullan” arvon

    7. 7

      Varo piilokuluja, asunnon myyntihinta ei kerro kaikkea – Kuluttajaliitto: Kun ilmiö kasvaa, ongelmia syntyy

    8. 8

      Jan Hurrin näkökulma: Ennusteet lupaavat talouskasvua, mutta kuinka oikeaan ne ovat aiemminkaan osuneet?

    9. 9

      Uber vetoaa viranomaisiin Lontoon ahdingossaan: ”Voisimme istua alas ja korjata tilanteen”

    10. 10

      Yli sadan ammatin tulot julki – saatko näin paljon tuntipalkkaa?

    11. Näytä lisää
    1. 1

      Näin nappaat verohyödyn eläkkeen nostamisesta ennakkoon: töitä ei tarvitse lopettaa – katso laskelmat

    2. 2

      490 kilometriä ali Englannin kanaalin ilman vessataukoja: tästä maksetaan jopa 6 000 e/kk

    3. 3

      Löytyykö kaapistasi mahdollinen meripihka-aarre? Näin ammattilainen määrittelee ”itäblokin kullan” arvon

    4. 4

      Varo piilokuluja, asunnon myyntihinta ei kerro kaikkea – Kuluttajaliitto: Kun ilmiö kasvaa, ongelmia syntyy

    5. 5

      Yle: Valtion omistama Terrafame järjestää hirvijahtiviikonlopun – yt-neuvottelut käynnissä samaan aikaan

    6. 6

      Asumistutkija tyrmää 15,5 neliön miniasunnot: ”Mennään sellaista rajaa kohden, mikä pelottaa”

    7. 7

      Francoise Bettencourt Meyers nousi maailman rikkaimmaksi naiseksi

    8. 8

      6 esimerkkiä: Eläkeläispari, yksinhuoltajat, duunarit... Näin erilaisten perheiden tulot muuttuvat ensi vuonna

    9. 9

      Kiinalaisten turistiryntäys saa lisää ilmaa alleen – Lucky Air aloittaa lennot Helsinki-Vantaalle

    10. 10

      Jan Hurrin näkökulma: Ennusteet lupaavat talouskasvua, mutta kuinka oikeaan ne ovat aiemminkaan osuneet?

    11. Näytä lisää
    1. 1

      Yli sadan ammatin tulot julki – saatko näin paljon tuntipalkkaa?

    2. 2

      Opettaja menetti yllättäen 2000 euron tuet – työttömille kaikessa hiljaisuudessa luotu uusi nettivelvoite raivostuttaa

    3. 3

      Palkka 4100 e/kk, mutta töihin ei löydy osaajia – liitto: syynä kaksi ongelmaa

    4. 4

      Katso tienaatko enemmän kuin tavallinen suomalainen – uudet palkkatiedot julki

    5. 5

      Uuden ammattibarometrin Top 15 -listat: Näillä aloilla työntekijöistä on pulaa – eniten tarjokkaita sihteereiksi

    6. 6

      6 esimerkkiä: Eläkeläispari, yksinhuoltajat, duunarit... Näin erilaisten perheiden tulot muuttuvat ensi vuonna

    7. 7

      Synkkä tutkimus suomalaisesta työelämästä: Jo 25 000 nuorta eläkkeellä

    8. 8

      Kun riita yksityistiestä kestää sukupolvien ajan: mökkiläinen kiusaa perhettä Savossa – ”Pahinta on arvaamattomuus”

    9. 9

      Katastrofaalinen sää uhkaa tuhota Juhon, 43, sadon – aamulla tuli uusi takaisku

    10. 10

      Asumistutkija tyrmää 15,5 neliön miniasunnot: ”Mennään sellaista rajaa kohden, mikä pelottaa”

    11. Näytä lisää