Digitoday

Valikko

Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.


Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Katso, oletko rikas vai köyhä – tämän verran keskimääräinen suomalainen omistaa

    2. 2

      Naisen lentomatka muuttui ”painajaiseksi” – kuva erikoisesta tapahtumasarjasta villitsee somessa

    3. 3

      Asunnon ikkunat hajosivat räjähdysmäisessä palossa Helsingissä – syynä vakava virhe ruoanlaitossa

    4. 4

      200 risteilymatkustajaa jumissa Saimaan kanavassa – ruoka alkaa loppua, muusikko soittaa Baddingia

    5. 5

      Apinan ottama selfie pilasi valokuvaajan elämän – masentui ja pohtii nyt työtä koiranulkoiluttajana

    6. 6

      Muistatko 10 vuoden takaisen hullun F1-kisan? Debytantti nousi 22. ruudusta kärkeen – ura oli pian ohi

    7. 7

      5-vuotias tyttö halusi myydä limpparia kadulla Lontoossa: viranomaisen tökerö toiminta sai tytön kyyneliin – ja someraivon roihuun

    8. 8

      Pia, 25, hylkäsi asianajajan työn ja ryhtyi Instagram-tähdeksi – tienaa nyt muhkeat summat povekkailla kuvilla: ”Halusin haastaa itseni”

    9. 9

      ”Turha yrittää kesyttää” – julkkisnaiset kertovat, miksi eivät aja häpykarvojaan

    10. 10

      Näin paljon rahaa suomalaisella on keskimäärin tilillä – löytyykö sinulta tämä summa?

    11. Näytä lisää
    1. 1

      Kansainvälisen uintiliiton julkaisema kuva järkyttää – ”Todella nöyryyttävää, epäkunnioittavaa, skandaali”

    2. 2

      Kohta rytisee! Ilmatieteen laitos varoittaa rankkasateista ja ukkosesta: ”Voi tulla vähän reippaammin”

    3. 3

      Cheek menetti etuhampaansa – edes hammaslääkäri ei kyennyt paikkaamaan ennen keikkaa: Elastinen julkaisi kuvan seuraamuksista

    4. 4

      Outo haju kellarissa paljasti – rakennusmestarin virityksistä 120 000 euron jättilasku

    5. 5

      Naisen lentomatka muuttui ”painajaiseksi” – kuva erikoisesta tapahtumasarjasta villitsee somessa

    6. 6

      Astrid Swanin, 35, rintasyöpä uusiutui ja levisi – sairaus on parantumaton: ”Jätän lapseni taakseni, kun hän vielä tarvitsee minua”

    7. 7

      Kuvat Suomen kesästä: Festarivieraat kahlasivat tulvivalla kadulla, tennarit upposivat rakeisiin ja salama halkaisi koivun – ”Aika tälli tuli”

    8. 8

      ”Turha yrittää kesyttää” – julkkisnaiset kertovat, miksi eivät aja häpykarvojaan

    9. 9

      Pete Parkkosen keikka Tikkurilassa sai huvittavia piirteitä: ”Ei tässä ole mitään järkeä enää!”

    10. 10

      Elina Tervo tahtoi hemmotella miehiä Instagramissa – kuvakulma korostaa kurveja: ”Koska 83 prosenttia seuraajistani on miehiä”

    11. Näytä lisää
    1. 1

      Harrastatko sinäkin ”Pirkka-seksiä”? 7 syytä, miksi se on tajuttoman upeaa

    2. 2

      Kansainvälisen uintiliiton julkaisema kuva järkyttää – ”Todella nöyryyttävää, epäkunnioittavaa, skandaali”

    3. 3

      Teemu Selänteen pojat katsoivat ilmaiseksi keikkaa isänsä luksusjahdilta – lavalla esiintyneeltä Reino Nordinilta osuva kuitti aiheesta

    4. 4

      Venäläisturisteja virtaa Suomeen yllättävästä syystä – näitä hamstrataan nyt kaupoista

    5. 5

      Katso: Tulipunainen hellemassa jysähtää pian jopa koko Suomeen – Ilmatieteen laitoksen video näyttää, millainen helle voi alkaa!

    6. 6

      Synkkä juhlailta Salossa – morsian joutui soittamaan poliisin omiin häihinsä

    7. 7

      TMZ: Linkin Parkin solisti Chester Bennington, 41, on kuollut

    8. 8

      Sabina Särkkä narahti uimapukukuvansa muokkaamisesta – kihlatun julkaisu paljasti totuuden: huomaatko eron?

    9. 9

      Nuori nainen lähetti avoimen sairauslomaviestin – pomon reaktio sai itkemään

    10. 10

      8 asiaa, joita pariskunnat tekevät, mutta eivät myönnä sitä – montako kohtaa myönnät?

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Katso, oletko rikas vai köyhä – tämän verran keskimääräinen suomalainen omistaa

    2. 2

      Naisen lentomatka muuttui ”painajaiseksi” – kuva erikoisesta tapahtumasarjasta villitsee somessa

    3. 3

      Asunnon ikkunat hajosivat räjähdysmäisessä palossa Helsingissä – syynä vakava virhe ruoanlaitossa

    4. 4

      200 risteilymatkustajaa jumissa Saimaan kanavassa – ruoka alkaa loppua, muusikko soittaa Baddingia

    5. 5

      Apinan ottama selfie pilasi valokuvaajan elämän – masentui ja pohtii nyt työtä koiranulkoiluttajana

    6. Näytä lisää
    1. 1

      Kansainvälisen uintiliiton julkaisema kuva järkyttää – ”Todella nöyryyttävää, epäkunnioittavaa, skandaali”

    2. 2

      Kohta rytisee! Ilmatieteen laitos varoittaa rankkasateista ja ukkosesta: ”Voi tulla vähän reippaammin”

    3. 3

      Cheek menetti etuhampaansa – edes hammaslääkäri ei kyennyt paikkaamaan ennen keikkaa: Elastinen julkaisi kuvan seuraamuksista

    4. 4

      Outo haju kellarissa paljasti – rakennusmestarin virityksistä 120 000 euron jättilasku

    5. 5

      Naisen lentomatka muuttui ”painajaiseksi” – kuva erikoisesta tapahtumasarjasta villitsee somessa

    6. Näytä lisää
    1. 1

      Harrastatko sinäkin ”Pirkka-seksiä”? 7 syytä, miksi se on tajuttoman upeaa

    2. 2

      Kansainvälisen uintiliiton julkaisema kuva järkyttää – ”Todella nöyryyttävää, epäkunnioittavaa, skandaali”

    3. 3

      Teemu Selänteen pojat katsoivat ilmaiseksi keikkaa isänsä luksusjahdilta – lavalla esiintyneeltä Reino Nordinilta osuva kuitti aiheesta

    4. 4

      Venäläisturisteja virtaa Suomeen yllättävästä syystä – näitä hamstrataan nyt kaupoista

    5. 5

      Katso: Tulipunainen hellemassa jysähtää pian jopa koko Suomeen – Ilmatieteen laitoksen video näyttää, millainen helle voi alkaa!

    6. Näytä lisää