Digitoday

Microsoft pyytää anteeksi tekoälyä: "Emme olleet varautuneet tällaiseen hyökkäykseen"

Julkaistu: , Päivitetty:

Tay-chatbotti vertasi muun muassa feminismiä syöpään ja ylisti Adolf Hitleriä.
Ohjelmistojätti Microsoft pyytää anteeksi kehittämänsä Tay-chatbotin huonoa käytöstä.

– Olemme erittäin pahoillamme Tayn tahattoman loukkaavista twiiteistä, jotka eivät edusta arvojamme, eivätkä tapaa, jolla suunnittelimme Tayn, Microsoft Researchin varatoimitusjohtaja Peter Lee kirjoittaa Microsoftin blogissa.

Tayn oli tarkoitus keskustella ihmisten kanssa Twitterissä ja kehittää vuorovaikutustaan muiden käyttäjien kanssa tekoälyn avulla.

Muut Twitter-käyttäjät pyrkivät kuitenkin vaikuttamaan Tayn vastauksiin, ja ennen pitkää Tay rinnasti muun muassa feminismin syöpään ja ja ylisti Adolf Hitleriä.
MAINOS (TEKSTI JATKUU ALLA)
MAINOS PÄÄTTYY

– Pieni joukko käyttäjiä pystyi koordinoidulla hyökkäyksellä hyödyntämään Tayn haavoittuvuutta. Vaikka olimmekin varautuneet monenlaisiin väärinkäytöksiin, emme olleet varautuneet juuri tämänlaiseen hyökkäykseen, Lee kirjoittaa.

Yhtiö poisti loukkaavimmat twiitit pikaisesti ja siirsi Tayn offline-tilaan. Varatoimitusjohtajan mukaan Tayn kehittelyä jatketaan.

– Juuri nyt pyrimme vastaamaan tämän hyökkäksen paljastamaan haavoittuvuuteen. Pyrimme herkeämättä oppimaan tästä ja muista kokemuksista pyrkiessämme antamaan panoksemme internetiin, joka edustaa ihmiskunnan parhaita eikä huonoimpia puolia.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Nainen pudotti 160 kiloa ja suuntasi rannalle – rohkea kuva muuttuneesta kehosta on vahva viesti kiusaajille

    2. 2

      Tylyt oharit Napakympissä – Joni, 26, kertoo nyt katoamisensa taustoista: Pyytää anteeksi neiti X:ltä

    3. 3

      Ivanka Trump jäi kiinni nolosta mokasta vauvakuvassaan – kuvankaunis malli sivalsi ovelasti: Some räjähti

    4. 4

      Havaiji valmistautuu Pohjois-Korean vetypommikokeeseen – asukkaita kehotettiin varaamaan vettä ja ruokaa 14 päiväksi

    5. 5

      Vankiloma kestänyt lähes 3,5 vuotta – 80 nettipetoksen syytteet vanhenevat parin viikon päästä

    6. 6

      TMZ: Kylie Jenner, 20, on kertonut ystävilleen olevansa raskaana

    7. 7

      Seurakunnassa toiminut isäpuoli teki perheen elämästä helvetin – uhkaili väliin tullutta lastensuojelua ”Jumalan kostolla”

    8. 8

      Essi Pöysti odottaa kolmatta lastaan – kaksi raskautta päättyi kauheimmalla mahdollisella tavalla

    9. 9

      Iäkkään naisen kotiin pyrkinyt valepoliisi jäi rysän päältä kiinni Espoossa – lukkopainin harrastaja piti epäiltyä otteessaan

    10. 10

      Ukrainan suurlähettiläältä poikkeuksellinen Venäjä-varoitus Suomelle – ”Suomen kansalaiset ovat levittäneet vahingollisia ajatuksia ”

    11. Näytä lisää
    1. 1

      Yli sadan ammatin tulot julki – saatko näin paljon tuntipalkkaa?

    2. 2

      Järkyttävä yllätys Napakympin kulisseissa: miesseuralainen katosi jäljettömiin – Neiti X lähti voittomatkalle yksin

    3. 3

      Tylyt oharit Napakympissä – Joni, 26, kertoo nyt katoamisensa taustoista: Pyytää anteeksi neiti X:ltä

    4. 4

      Kim Jong-un haukkui Trumpia ennen­kuulumattoman rajusti – lue sanasta sanaan: ”Taltutan höppänän tulella”

    5. 5

      Nainen pudotti 160 kiloa ja suuntasi rannalle – rohkea kuva muuttuneesta kehosta on vahva viesti kiusaajille

    6. 6

      Napakympin kadoksissa ollut herra A löytyi myöhään torstai-iltana – neiti X:lle tehdyt oharit voivat johtaa sanktioihin

    7. 7

      Testaa, miten sinä pärjäisit Haluatko miljonääriksi -visassa – 18-vuotias teekkari jäi vain kahden kysymyksen päähän jättipotista

    8. 8

      5 tosieksperttien siivouskikkaa – puhdista rumat laattojen saumat ja pinttyneet kattilat hetkessä

    9. 9

      Yleisön reaktio NHL-pelissä sai Sauli Niinistön suun leveään hymyyn – presidentti IS:lle: ”Se oli aika yllättävää”

    10. 10

      Hyvinkään ABC:n räjähdysmäisen palon syy selvisi – tuhot niin suuret, että purkaminen voi olla realismia

    11. Näytä lisää
    1. 1

      Tv-juontajalle kävi äärimmäisen kiusallinen moka minihameessa – suora lähetys yllätti katsojat: Kuvat leviävät

    2. 2

      Ruotsalainen Natasha, 24, hämmästyttää äärimmäisellä muodonmuutoksellaan – vanhemmat eivät hyväksy tyttärensä kauneusleikkauksia

    3. 3

      Emma otti loukkaantuneen eläimen kiinni – ymmärsi vasta sitten: ”Herranjumala, eihän se olekaan mikään koira”

    4. 4

      Kaksi tavallista naista testasi kohutun Lidl-malliston kiinnostavimmat vaatteet – tältä ne oikeasti näyttävät

    5. 5

      Järkyttävä yllätys Napakympin kulisseissa: miesseuralainen katosi jäljettömiin – Neiti X lähti voittomatkalle yksin

    6. 6

      Mervi Tapola sairastui syöpään – ei voida parantaa: ”Järkytys oli hirvittävä”

    7. 7

      Trafi aloittaa kampanjoinnin ylihuomenna: Kärkenä dieselautoilijalle luvassa oleva 17000 euron verolasku

    8. 8

      Huutokauppakeisari myi 90-luvun muumimukin suurella summalla – löytyykö sinulta tämä harvinaisuus?

    9. 9

      Lähipiiri kertoo Sillanpään huumeidenkäytöstä: ”Jarille arki voi tuntua putoamiselta rotkoon”

    10. 10

      Entisen teinitähden tv-esiintyminen järkytti katsojia – luurangonlaiha laulaja kuin varjo entisestä: huumetesti paljasti karmivan totuuden

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Nainen pudotti 160 kiloa ja suuntasi rannalle – rohkea kuva muuttuneesta kehosta on vahva viesti kiusaajille

    2. 2

      Tylyt oharit Napakympissä – Joni, 26, kertoo nyt katoamisensa taustoista: Pyytää anteeksi neiti X:ltä

    3. 3

      Ivanka Trump jäi kiinni nolosta mokasta vauvakuvassaan – kuvankaunis malli sivalsi ovelasti: Some räjähti

    4. 4

      Havaiji valmistautuu Pohjois-Korean vetypommikokeeseen – asukkaita kehotettiin varaamaan vettä ja ruokaa 14 päiväksi

    5. 5

      Vankiloma kestänyt lähes 3,5 vuotta – 80 nettipetoksen syytteet vanhenevat parin viikon päästä

    6. Näytä lisää
    1. 1

      Yli sadan ammatin tulot julki – saatko näin paljon tuntipalkkaa?

    2. 2

      Järkyttävä yllätys Napakympin kulisseissa: miesseuralainen katosi jäljettömiin – Neiti X lähti voittomatkalle yksin

    3. 3

      Tylyt oharit Napakympissä – Joni, 26, kertoo nyt katoamisensa taustoista: Pyytää anteeksi neiti X:ltä

    4. 4

      Kim Jong-un haukkui Trumpia ennen­kuulumattoman rajusti – lue sanasta sanaan: ”Taltutan höppänän tulella”

    5. 5

      Nainen pudotti 160 kiloa ja suuntasi rannalle – rohkea kuva muuttuneesta kehosta on vahva viesti kiusaajille

    6. Näytä lisää
    1. 1

      Tv-juontajalle kävi äärimmäisen kiusallinen moka minihameessa – suora lähetys yllätti katsojat: Kuvat leviävät

    2. 2

      Ruotsalainen Natasha, 24, hämmästyttää äärimmäisellä muodonmuutoksellaan – vanhemmat eivät hyväksy tyttärensä kauneusleikkauksia

    3. 3

      Emma otti loukkaantuneen eläimen kiinni – ymmärsi vasta sitten: ”Herranjumala, eihän se olekaan mikään koira”

    4. 4

      Kaksi tavallista naista testasi kohutun Lidl-malliston kiinnostavimmat vaatteet – tältä ne oikeasti näyttävät

    5. 5

      Järkyttävä yllätys Napakympin kulisseissa: miesseuralainen katosi jäljettömiin – Neiti X lähti voittomatkalle yksin

    6. Näytä lisää