Digitoday

Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.


Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.
MAINOS (TEKSTI JATKUU ALLA)
MAINOS PÄÄTTYY

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Video: Kaikkien aikojen valtavin luonnonilmiö Suomessa – ”Kuin lähestyvän pikajunan kohina”

    2. 2

      Yle: Mika Myllylän Olivia-tytär kuuli isänsä kuolemasta kesken huvipuistoretken – osasi odottaa uutista: ”Sitä sai pelätä jo aiemmin”

    3. 3

      Ensi viikon lauha sää peruttu – tilalle lunta ja räntää

    4. 4

      MTV: Janna joutui äkillisesti sairaalahoitoon – jää pois illan Tähdet, tähdet -lähetyksestä

    5. 5

      Työttömät kieltäytyivät työstä aina samalla selityksellä – teollisuuspohatan vastaveto saikin hakijan leuan loksahtamaan

    6. 6

      Thaimaalaista Marisaa vietiin, kun Pattayan baarikadulla asteli vastaan suomalainen Mauri: ”Olen onnen nainen, kun sain hyvän miehen”

    7. 7

      Nahka-asuisen Jannika B:n esitys villitsi Toni Wirtasen täysin – hurrasi ja karjui Tähdet, tähdet -yleisössä

    8. 8

      Legendaarinen Roope-setä -lehti lopettaa – ehti ilmestyä melkein 40 vuotta

    9. 9

      Leivinuunin ”lisälaite” yllätti pariskunnan – tunnelmallinen lauantai-ilta meni pilalle

    10. 10

      Suomalaiset Italia-konkarit: Älä ihmettele, jos saat kummallisia katseita tilattuasi cappuccinon ruoan jälkeen

    11. Näytä lisää
    1. 1

      Työttömät kieltäytyivät työstä aina samalla selityksellä – teollisuuspohatan vastaveto saikin hakijan leuan loksahtamaan

    2. 2

      Leivinuunin ”lisälaite” yllätti pariskunnan – tunnelmallinen lauantai-ilta meni pilalle

    3. 3

      Thaimaalaista Marisaa vietiin, kun Pattayan baarikadulla asteli vastaan suomalainen Mauri: ”Olen onnen nainen, kun sain hyvän miehen”

    4. 4

      Pitkä ennuste julki: Näin talven ensimmäiset merkit saapuvat Suomeen

    5. 5

      Olisitko tiennyt vastauksen 60 000 euron arvoiseen kysymykseen? Haluatko miljonääriksi? -kisailija jäi vain kolmen kysymyksen päähän jättipotista!

    6. 6

      Manuela Bosco julkaisi ensimmäisen yhteiskuvan Tuure Kilpeläisen kanssa – hymyilee rakkaansa kainalossa

    7. 7

      Nuori nainen julkaisi paljonpuhuvan kuvaparin: jo pieni kuvanmuokkaus muuttaa ulkonäköä hätkähdyttävästi – huomaatko eron?

    8. 8

      Harvinainen näky: Kaikki elossa olevat USA:n ex-presidentit saapuivat lavalle hyväntekeväisyyskonsertissa

    9. 9

      Pelastaja kertoo karmeasta näystä Tehtaankadulla 20 vuotta sitten: ”Täällä on tapahtunut teloitus” – sitten sattuma vei hänet lähelle poliisimurhaajaa

    10. 10

      Vaeltamaan lähtenyt nuoripari löydettiin kuolleina USA:ssa – vaikuttivat syleilevän toisiaan, vieressä käsiase

    11. Näytä lisää
    1. 1

      Dopingtuomion saaneen Therese Johaugin ulkoinen olemus on jotain aivan muuta kuin kaksi kuukautta sitten – katso kuvat

    2. 2

      Työttömät kieltäytyivät työstä aina samalla selityksellä – teollisuuspohatan vastaveto saikin hakijan leuan loksahtamaan

    3. 3

      Huomaatko erikoisen yksityiskohdan? 19-vuotiaan Lisan viaton bikinikuva kummastuttaa Instagramissa

    4. 4

      Tutut liikennemerkit muuttuvat sukupuolineutraaleiksi – katso kuvat!

    5. 5

      Leivinuunin ”lisälaite” yllätti pariskunnan – tunnelmallinen lauantai-ilta meni pilalle

    6. 6

      Näin päättyi Napakymppi-parin Ikaalisten matka – piikki auki, Ville jätti taksit maksamatta: ”Odotin, milloin pääsen pois”

    7. 7

      Nuoren Emman netti-ihastus olikin kaljuuntuva, 53-vuotias kauppias – sen jälkeen tapahtui jotain käsittämätöntä

    8. 8

      Kova väite K-Supermarketin kalatiskin kikasta ja takahuoneen tapahtumista – 22-vuotias Miss Tampere kertoo olevansa yksi kauppiaan uhreista

    9. 9

      Lahdesta löytynyt vainaja edelleen tunnistamatta – poliisi julkaisi poikkeuksellisesti kuvan ruumiista

    10. 10

      Onko tässä erikoisin hääkuva ikinä? Kreikkalaiskappeli kielsi ulkomaalaisparien häät rivon kuvan seurauksena

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Video: Kaikkien aikojen valtavin luonnonilmiö Suomessa – ”Kuin lähestyvän pikajunan kohina”

    2. 2

      Yle: Mika Myllylän Olivia-tytär kuuli isänsä kuolemasta kesken huvipuistoretken – osasi odottaa uutista: ”Sitä sai pelätä jo aiemmin”

    3. 3

      Ensi viikon lauha sää peruttu – tilalle lunta ja räntää

    4. 4

      MTV: Janna joutui äkillisesti sairaalahoitoon – jää pois illan Tähdet, tähdet -lähetyksestä

    5. 5

      Työttömät kieltäytyivät työstä aina samalla selityksellä – teollisuuspohatan vastaveto saikin hakijan leuan loksahtamaan

    6. Näytä lisää
    1. 1

      Työttömät kieltäytyivät työstä aina samalla selityksellä – teollisuuspohatan vastaveto saikin hakijan leuan loksahtamaan

    2. 2

      Leivinuunin ”lisälaite” yllätti pariskunnan – tunnelmallinen lauantai-ilta meni pilalle

    3. 3

      Thaimaalaista Marisaa vietiin, kun Pattayan baarikadulla asteli vastaan suomalainen Mauri: ”Olen onnen nainen, kun sain hyvän miehen”

    4. 4

      Pitkä ennuste julki: Näin talven ensimmäiset merkit saapuvat Suomeen

    5. 5

      Olisitko tiennyt vastauksen 60 000 euron arvoiseen kysymykseen? Haluatko miljonääriksi? -kisailija jäi vain kolmen kysymyksen päähän jättipotista!

    6. Näytä lisää
    1. 1

      Dopingtuomion saaneen Therese Johaugin ulkoinen olemus on jotain aivan muuta kuin kaksi kuukautta sitten – katso kuvat

    2. 2

      Työttömät kieltäytyivät työstä aina samalla selityksellä – teollisuuspohatan vastaveto saikin hakijan leuan loksahtamaan

    3. 3

      Huomaatko erikoisen yksityiskohdan? 19-vuotiaan Lisan viaton bikinikuva kummastuttaa Instagramissa

    4. 4

      Tutut liikennemerkit muuttuvat sukupuolineutraaleiksi – katso kuvat!

    5. 5

      Leivinuunin ”lisälaite” yllätti pariskunnan – tunnelmallinen lauantai-ilta meni pilalle

    6. Näytä lisää