Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Tutkimus vahvisti: suomalainen keksintö auttaa tupakoinnin lopettamisessa – kyselyjä tulvii Suomesta ja maailmalta

    2. 2

      Globaali autoilmiö on jättipotti suomalaisyritykselle – isot rekrytoinnit alkavat ensi vuoden puolella

    3. 3

      Työttömyysaste kääntyi taas nousuun – huhtikuussa 10,2 %

    4. 4

      Öljyn tuotantoa rajoitettiin, mutta yksi maa rikkoo lupauksia – ”Ei ole mitään keinoa rangaista”

    5. 5

      HUS:n historian suurin sairaalahanke maksaa 280 miljoonaa – rakentajaksi SRV

    6. 6

      Haluatko eläkkeelle miljonäärinä? Näin paljon sinun pitää säästää joka kuukausi

    7. 7

      Analyytikon arvio Nokian Apple-sopimuksesta: ”Sen täytyy olla todella merkittävä”

    8. 8

      Johtaja yllättyi Kyösti Kakkosen hyökkäyksestä – toivoo, ettei edusta Suomen yrityskulttuuria

    9. 9

      Näkökulma: Painajainen jatkuu yhdeksättä vuotta – kinastelu pitää Kreikkaa kyykyssä

    10. 10

      Säästöpankkiliiton toimitusjohtaja eroaa

    11. Näytä lisää
    1. 1

      Globaali autoilmiö on jättipotti suomalaisyritykselle – isot rekrytoinnit alkavat ensi vuoden puolella

    2. 2

      Tutkimus vahvisti: suomalainen keksintö auttaa tupakoinnin lopettamisessa – kyselyjä tulvii Suomesta ja maailmalta

    3. 3

      Johtaja yllättyi Kyösti Kakkosen hyökkäyksestä – toivoo, ettei edusta Suomen yrityskulttuuria

    4. 4

      Haluatko eläkkeelle miljonäärinä? Näin paljon sinun pitää säästää joka kuukausi

    5. 5

      Analyytikon arvio Nokian Apple-sopimuksesta: ”Sen täytyy olla todella merkittävä”

    6. 6

      Orpo Kreikka-päätöksestä: ”Inhottava tilanne”

    7. 7

      Öljyn tuotantoa rajoitettiin, mutta yksi maa rikkoo lupauksia – ”Ei ole mitään keinoa rangaista”

    8. 8

      Näkökulma: Painajainen jatkuu yhdeksättä vuotta – kinastelu pitää Kreikkaa kyykyssä

    9. 9

      Tällaiset huippuosaajat voivat nyt sanella työehtonsa – ”Haluan kolme päivää vapaata ja 7 000 euroa”

    10. 10

      Entinen välittäjä oikeudessa: pomot opettivat minut valehtelemaan asiakkaille

    11. Näytä lisää
    1. 1

      Palkka jopa 4 000 e/kk – silti kehuttu yritys ei löydä duunareita

    2. 2

      Delta Auton mekaanikot marssivat ulos – ”Porukalle riitti”

    3. 3

      Haluatko eläkkeelle miljonäärinä? Näin paljon sinun pitää säästää joka kuukausi

    4. 4

      Tällaiset huippuosaajat voivat nyt sanella työehtonsa – ”Haluan kolme päivää vapaata ja 7 000 euroa”

    5. 5

      Työttömät palkatta töihin yrityksiin – hallitus esittää kokeilua

    6. 6

      Suomalaisyrittäjän tuote myy kuin häkä Kiinassa – jopa tuhat 600 euron laitetta päivässä

    7. 7

      SK: Kanadalainen kaivosyhtiö jätti miljoonalaskun suomalaisille veronmaksajille – ”Jättivät sotkun meidän hoidettavaksi”

    8. 8

      Jaakko, 36, puski läpi työttömyyden – sitten lykästi: "Tulot ovat aika lailla tuplaantuneet"

    9. 9

      ”Diesel on kuollut”, mutta Suomessa hinnat voivat yllättää

    10. 10

      Välittäjä: Kaksikerroksinen rivitalokoti sopii vain 42-vuotiaalle ostajalle

    11. Näytä lisää