Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    • Juuri nyt
    • Päivä
    • Viikko
    1. 1

      Kuluttaja-asiamies varoittaa Viagogosta – jo 500 yhteydenottoa lippuvälittäjästä

    2. 2

      ”Heitä nyt sitä löylyä, saatana”, sanoi pelipomo amerikkalaiselle – näin suomalaispeliä viedään maailmalle

    3. 3

      Danske Bank lopettaa toimintansa Baltiassa ja Venäjällä

    4. 4

      Espoolaispariskunta maksaa 55 euroa kuussa murtosuojauksesta – hälytinkauppa käy, vaikka murrot vähenevät

    5. 5

      Työryhmä ehdottaa kuntaeläkkeiden avaamista kilpailulle – Keva jaettaisiin kahtia

    6. 6

      Kuva kertoo, miltä näyttää vuokrien ikinousu – ”Näkyvissä ei ole sellaista, joka kääntäisi suunnan”

    7. 7

      Avointen työpaikkojen määrä kasvoi – yli puolet vaikeasti täytettäviä, pulaa muun muassa puheterapeuteista

    8. 8

      Lidlin jauhelihassa taas salmonellaepäily – keskeyttää yhteistyön lihatalon kanssa

    9. 9

      Honda vahvisti sulkevansa tehtaansa Britanniassa

    10. 10

      VR perustaa tytäryhtiön Venäjälle

    11. Näytä lisää
    1. 1

      Töölöläinen taloyhtiö päätti muuttaa ullakon asunnoiksi – hyvä diili muuttuikin painajaiseksi

    2. 2

      Lidlin jauhelihassa taas salmonellaepäily – keskeyttää yhteistyön lihatalon kanssa

    3. 3

      Espoolaispariskunta maksaa 55 euroa kuussa murtosuojauksesta – hälytinkauppa käy, vaikka murrot vähenevät

    4. 4

      Joronjälkeä myyvä Auvo, 63, tekee hotellissaan kaiken yksin – ”Heittelen yläpystyyn mummoja, jotka haluavat tanssia”

    5. 5

      Huoltomies nukkui pommiin, kieltäytyi töistä, törmäsi liikenteenjakajaan ja aiheutti vesivahingon – miten kävi potkujen?

    6. 6

      Lennonjohtajien työehdoista on väännetty jo 1,5 vuotta – näin ikuisuuskiistan osapuolet syyttelevät toisiaan

    7. 7

      Kuva kertoo, miltä näyttää vuokrien ikinousu – ”Näkyvissä ei ole sellaista, joka kääntäisi suunnan”

    8. 8

      Kuluttaja-asiamies varoittaa Viagogosta – jo 500 yhteydenottoa lippuvälittäjästä

    9. 9

      Avointen työpaikkojen määrä kasvoi – yli puolet vaikeasti täytettäviä, pulaa muun muassa puheterapeuteista

    10. 10

      ”Heitä nyt sitä löylyä, saatana”, sanoi pelipomo amerikkalaiselle – näin suomalaispeliä viedään maailmalle

    11. Näytä lisää
    1. 1

      Suuren omakotitalon Helsingistä ostanut pariskunta hämmästyi: minne katosi 140 neliötä?

    2. 2

      Töölöläinen taloyhtiö päätti muuttaa ullakon asunnoiksi – hyvä diili muuttuikin painajaiseksi

    3. 3

      Verottaja jätti Suomen suurimpiin kuuluvasta tapahtumajärjestäjästä konkurssihakemuksen

    4. 4

      Lidlin jauhelihassa taas salmonellaepäily – keskeyttää yhteistyön lihatalon kanssa

    5. 5

      Joronjälkeä myyvä Auvo, 63, tekee hotellissaan kaiken yksin – ”Heittelen yläpystyyn mummoja, jotka haluavat tanssia”

    6. 6

      Huoltomies nukkui pommiin, kieltäytyi töistä, törmäsi liikenteenjakajaan ja aiheutti vesivahingon – miten kävi potkujen?

    7. 7

      ”Rappioveli” sai osansa perinnöstä – Hovioikeus: Äidin 137 000 euron siirrot suosikkipojalleen olivat törkeä kavallus

    8. 8

      Jethro Rostedt avaa oman ravintolan – tältä yökerhossa näytti neljä tuntia ennen avaamista

    9. 9

      Lento myöhästyi 3 tuntia, eikä Ulla, 53, ehtinyt pitkälle jatkolennolleen – OP tai Finnair eivät korvaa yli 700 euron lisäkuluja

    10. 10

      Kohutun hoivayhtiö Attendon osake syöksyy – tulos alitti alhaisimmatkin ennusteet

    11. Näytä lisää