Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Venäjä antoi luvan: Helsingistä saa lentää kolmeen uuteen kohteeseen – Finnair kiinnostunut reiteistä

    2. 2

      Hypo: Uusi ilmiö uhkaa Suomen asuntomarkkinoilla – nollan asunnon loukku

    3. 3

      Lukioihin vaaditaan ilmaisia kirjoja – nyt opinnot voivat maksaa jopa 2 600 euroa

    4. 4

      Valinnanvapaus ei tuonut ryntäystä yksityislääkäriin – osa valitsi yksityisen vahingossa

    5. 5

      KKO:lta työoikeudellinen ennakkoratkaisu – Yrittäjät: Tämä on erittäin merkittävä linjaus

    6. 6

      Tuoreet vaalikyselyt nakertavat puntaa – ”Saatamme olla ongelma­vyöhykkeellä”

    7. 7

      Liki 60-vuotias sihteeri löysi piilotyöpaikan – viisi vinkkiä täsmähakuun

    8. 8

      Suomi ja Venäjän sopuun – lentoja Helsingin ja Moskovan välillä voidaan lisätä

    9. 9

      G7-kokous alkaa tänään – Trumpille luvassa epämiellyttäviä keskusteluja

    10. 10

      Avolava-autojen omistajat syyttävät General Motorsia päästöhuijauksesta – osake lähti laskuun

    11. Näytä lisää
    1. 1

      KKO:lta työoikeudellinen ennakkoratkaisu – Yrittäjät: Tämä on erittäin merkittävä linjaus

    2. 2

      Hypo: Uusi ilmiö uhkaa Suomen asuntomarkkinoilla – nollan asunnon loukku

    3. 3

      Valinnanvapaus ei tuonut ryntäystä yksityislääkäriin – osa valitsi yksityisen vahingossa

    4. 4

      Liki 60-vuotias sihteeri löysi piilotyöpaikan – viisi vinkkiä täsmähakuun

    5. 5

      Venäjä antoi luvan: Helsingistä saa lentää kolmeen uuteen kohteeseen – Finnair kiinnostunut reiteistä

    6. 6

      Globaali autoilmiö on jättipotti suomalaisyritykselle – isot rekrytoinnit alkavat ensi vuoden puolella

    7. 7

      Arvaatko, missä nostetaan pieniä ja missä isoja seteleitä? Yhä useammalla pankkiautomaatilla voi myös tallettaa rahaa

    8. 8

      Kommentti: Ainoa syy työllisyyden nousuun: Jo joka neljäs nainen on osa-aikatöissä

    9. 9

      Lukioihin vaaditaan ilmaisia kirjoja – nyt opinnot voivat maksaa jopa 2 600 euroa

    10. 10

      Erikoiset työttömyysluvut hämmentävät – ”Tämä on tyypillinen ilmiö, kun talous piristyy”

    11. Näytä lisää
    1. 1

      Haluatko eläkkeelle miljonäärinä? Näin paljon sinun pitää säästää joka kuukausi

    2. 2

      Tällaiset huippuosaajat voivat nyt sanella työehtonsa – ”Haluan kolme päivää vapaata ja 7 000 euroa”

    3. 3

      Delta Auton mekaanikot marssivat ulos – ”Porukalle riitti”

    4. 4

      SK: Kanadalainen kaivosyhtiö jätti miljoonalaskun suomalaisille veronmaksajille – ”Jättivät sotkun meidän hoidettavaksi”

    5. 5

      Globaali autoilmiö on jättipotti suomalaisyritykselle – isot rekrytoinnit alkavat ensi vuoden puolella

    6. 6

      Jaakko, 36, puski läpi työttömyyden – sitten lykästi: "Tulot ovat aika lailla tuplaantuneet"

    7. 7

      Laivaopas, kirvesmies, pelikoodari... Jättiselvitys: Tällaista työtä Suomesta löytyy nyt

    8. 8

      Tutkimus vahvisti: suomalainen keksintö auttaa tupakoinnin lopettamisessa – kyselyjä tulvii Suomesta ja maailmalta

    9. 9

      Ainutlaatuinen jättipotti: Kirpputorilta 30 vuotta sitten löytynyt ”tekojalokivi” paljastui 26 karaatin timantiksi

    10. 10

      Liki 60-vuotias sihteeri löysi piilotyöpaikan – viisi vinkkiä täsmähakuun

    11. Näytä lisää