Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    • Juuri nyt
    • Päivä
    • Viikko
    1. 1

      Helsinkiläiseen vaatekauppaan on 30 euron pääsymaksu – ”Karsii huvisovittelijat”

    2. 2

      Avioero voi maksaa maltaita – varaudu liiton loppumiseen jo silloin, kun kaikki on hyvin

    3. 3

      Tässä startupissa ei väännetä koodia, vaan Eevaa omenista – Aatami suunnitteilla

    4. 4

      Yllätysero vei Sallan, 38, ahdinkoon: talo jäi miehelle, otti huonekaluihin lainaa – ”Kuin suoraan painajaisesta”

    5. 5

      Nyt on lohi hinnoissaan – kuva näyttää hurjan muutoksen

    6. 6

      Kommentti: Vekselikikka voi olla Italian takaportti ulos eurosta

    7. 7

      Seurantasivusto: Perusbensan hinta nousee yhä

    8. 8

      Talonrakentajien aikataulut paukkuvat jopa viikkoja pääkaupunkiseudulla – syynä erikoinen pullonkaula

    9. 9

      Laivayhtiö Linda Line asetettiin konkurssiin

    10. 10

      Yritykset lähestyvät asiakkaita oudon riipaisevilla sähköposteilla – Asiantuntija: Tästä nyyhkytarinoissa on kyse

    11. Näytä lisää
    1. 1

      Helsinkiläiseen vaatekauppaan on 30 euron pääsymaksu – ”Karsii huvisovittelijat”

    2. 2

      Laivayhtiö Linda Line asetettiin konkurssiin

    3. 3

      Yllätysero vei Sallan, 38, ahdinkoon: talo jäi miehelle, otti huonekaluihin lainaa – ”Kuin suoraan painajaisesta”

    4. 4

      Yritykset lähestyvät asiakkaita oudon riipaisevilla sähköposteilla – Asiantuntija: Tästä nyyhkytarinoissa on kyse

    5. 5

      Nyt on lohi hinnoissaan – kuva näyttää hurjan muutoksen

    6. 6

      Avioero voi maksaa maltaita – varaudu liiton loppumiseen jo silloin, kun kaikki on hyvin

    7. 7

      Kommentti: Vekselikikka voi olla Italian takaportti ulos eurosta

    8. 8

      Tässä startupissa ei väännetä koodia, vaan Eevaa omenista – Aatami suunnitteilla

    9. 9

      Seurantasivusto: Perusbensan hinta nousee yhä

    10. 10

      Iso muutos tuli voimaan tänään – taloyhtiöt ymmällään: miten käy saunavuorolistojen?

    11. Näytä lisää
    1. 1

      Helsinkiläiseen vaatekauppaan on 30 euron pääsymaksu – ”Karsii huvisovittelijat”

    2. 2

      Yksinkertainen laskelma osoittaa, milloin omistusasunto ei kannata

    3. 3

      Yllätysero vei Sallan, 38, ahdinkoon: talo jäi miehelle, otti huonekaluihin lainaa – ”Kuin suoraan painajaisesta”

    4. 4

      Iso muutos tuli voimaan tänään – taloyhtiöt ymmällään: miten käy saunavuorolistojen?

    5. 5

      Talosta löytyi kolme salaista virhettä vuosia kaupan jälkeen – myyjälle liki 100 000 euron lasku

    6. 6

      Talo maalattiin ja rapattiin vähän sinne päin, sitten yrittäjän kepulikonsti paljastui ja maalarit katosivat kuin turaus Saharaan

    7. 7

      Yrittäjä ”kohensi” olohuoneen parketin karmeaan kuntoon Keski-Suomessa – remontista puhkesi iso riita

    8. 8

      Nyt on lohi hinnoissaan – kuva näyttää hurjan muutoksen

    9. 9

      Suomeen saattaa syntyä uusi valtakunnallinen sähköyhtiö – heti 250 000 asiakasta

    10. 10

      Laivayhtiö Linda Line asetettiin konkurssiin

    11. Näytä lisää