Microsoft pyytää anteeksi tekoälybotin Twitter-sekoiluja – "Olemme erittäin pahoillamme"

Julkaistu: , Päivitetty:

Tay-chatbotti vertasi muun muassa feminismiä syöpään ja ylisti Adolf Hitleriä.
Ohjelmistojätti Microsoft pyytää anteeksi kehittämänsä Tay-chatbotin huonoa käytöstä.

– Olemme erittäin pahoillamme Tayn tahattoman loukkaavista twiiteistä, jotka eivät edusta arvojamme, eivätkä tapaa, jolla suunnittelimme Tayn, Microsoft Researchin varatoimitusjohtaja Peter Lee kirjoittaa Microsoftin blogissa.

Tayn oli tarkoitus keskustella ihmisten kanssa Twitterissä ja kehittää vuorovaikutustaan muiden käyttäjien kanssa tekoälyn avulla.

Muut Twitter-käyttäjät pyrkivät kuitenkin vaikuttamaan Tayn vastauksiin, ja ennen pitkää Tay rinnasti muun muassa feminismin syöpään ja ja ylisti Adolf Hitleriä.

– Pieni joukko käyttäjiä pystyi koordinoidulla hyökkäyksellä hyödyntämään Tayn haavoittuvuutta. Vaikka olimmekin varautuneet monenlaisiin väärinkäytöksiin, emme olleet varautuneet juuri tämänlaiseen hyökkäykseen, Lee kirjoittaa.

Yhtiö poisti loukkaavimmat twiitit pikaisesti ja siirsi Tayn offline-tilaan. Varatoimitusjohtajan mukaan Tayn kehittelyä jatketaan.

– Juuri nyt pyrimme vastaamaan tämän hyökkäksen paljastamaan haavoittuvuuteen. Pyrimme herkeämättä oppimaan tästä ja muista kokemuksista pyrkiessämme antamaan panoksemme internetiin, joka edustaa ihmiskunnan parhaita eikä huonoimpia puolia.

  • Tekoäly

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Globaali autoilmiö on jättipotti suomalaisyritykselle – isot rekrytoinnit alkavat ensi vuoden puolella

    2. 2

      Tutkimus vahvisti: suomalainen keksintö auttaa tupakoinnin lopettamisessa – kyselyjä tulvii Suomesta ja maailmalta

    3. 3

      Entinen välittäjä oikeudessa: pomot opettivat minut valehtelemaan asiakkaille

    4. 4

      Johtaja yllättyi Kyösti Kakkosen hyökkäyksestä – toivoo, ettei edusta Suomen yrityskulttuuria

    5. 5

      Orpo Kreikka-päätöksestä: ”Inhottava tilanne”

    6. 6

      Osa työnantajista karttelee hakemustulvaa – ”Tarvetta avoimelle haulle ei oikein ole”

    7. 7

      Haluatko eläkkeelle miljonäärinä? Näin paljon sinun pitää säästää joka kuukausi

    8. 8

      USA haastaa Fiat Chryslerin oikeuteen

    9. 9

      Terex myy lisää Konecranesia

    10. 10

      METRO-LEHDEN ENSIMMÄINEN NUMERO ILMESTYY SYYSKUUSSA

    11. Näytä lisää
    1. 1

      Johtaja yllättyi Kyösti Kakkosen hyökkäyksestä – toivoo, ettei edusta Suomen yrityskulttuuria

    2. 2

      Ainutlaatuinen jättipotti: Kirpputorilta 30 vuotta sitten löytynyt ”tekojalokivi” paljastui 26 karaatin timantiksi

    3. 3

      Globaali autoilmiö on jättipotti suomalaisyritykselle – isot rekrytoinnit alkavat ensi vuoden puolella

    4. 4

      Osa työnantajista karttelee hakemustulvaa – ”Tarvetta avoimelle haulle ei oikein ole”

    5. 5

      Tutkimus vahvisti: suomalainen keksintö auttaa tupakoinnin lopettamisessa – kyselyjä tulvii Suomesta ja maailmalta

    6. 6

      Entinen välittäjä oikeudessa: pomot opettivat minut valehtelemaan asiakkaille

    7. 7

      Orpo Kreikka-päätöksestä: ”Inhottava tilanne”

    8. 8

      Haluatko eläkkeelle miljonäärinä? Näin paljon sinun pitää säästää joka kuukausi

    9. 9

      Nokian osake ponkaisi rajuun nousuun – kertoi patenttisovusta Applen kanssa

    10. 10

      Tällaiset huippuosaajat voivat nyt sanella työehtonsa – ”Haluan kolme päivää vapaata ja 7 000 euroa”

    11. Näytä lisää
    1. 1

      Palkka jopa 4 000 e/kk – silti kehuttu yritys ei löydä duunareita

    2. 2

      Delta Auton mekaanikot marssivat ulos – ”Porukalle riitti”

    3. 3

      Haluatko eläkkeelle miljonäärinä? Näin paljon sinun pitää säästää joka kuukausi

    4. 4

      Työttömät palkatta töihin yrityksiin – hallitus esittää kokeilua

    5. 5

      Tällaiset huippuosaajat voivat nyt sanella työehtonsa – ”Haluan kolme päivää vapaata ja 7 000 euroa”

    6. 6

      Suomalaisyrittäjän tuote myy kuin häkä Kiinassa – jopa tuhat 600 euron laitetta päivässä

    7. 7

      SK: Kanadalainen kaivosyhtiö jätti miljoonalaskun suomalaisille veronmaksajille – ”Jättivät sotkun meidän hoidettavaksi”

    8. 8

      Jaakko, 36, puski läpi työttömyyden – sitten lykästi: "Tulot ovat aika lailla tuplaantuneet"

    9. 9

      ”Diesel on kuollut”, mutta Suomessa hinnat voivat yllättää

    10. 10

      Välittäjä: Kaksikerroksinen rivitalokoti sopii vain 42-vuotiaalle ostajalle

    11. Näytä lisää