Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Julkaistu: , Päivitetty:

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.
Mainos (Teksti jatkuu alla)
Mainos päättyy

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    • Juuri nyt
    • Päivä
    • Viikko
    1. 1

      PAM päätti uudesta lakosta – kohdistuu Securitakseen

    2. 2

      Suomalaisten yleisin ansio on 2 600 €/kk – riittääkö se elämiseen?

    3. 3

      Nuorilta kysyttiin, millaiseen työpaikkaan he haluaisivat – suomalaisten vastaukset pomoista yllättivät

    4. 4

      Työllisyysasteen trendi jäi alle hallituksen tavoitteen – ”Eihän tässä näin pitänyt käydä!”

    5. 5

      Lähes 8 500 vartijaa menossa lakkoon – turvallisuusalan johtaja varoittaa: ”Vaikutukset voivat näkyä melkein missä vaan”

    6. 6

      Lähihoitajien opettaja epäilee soveltuvuuskokeita: ”Psykologi ei suositellut opiskelijaa alalle, itse näin hänessä mahdollisuuksia”

    7. 7

      Näistä osaajista on kova pula ja keskitienestit noin 4 000 e/kk – ”Työpaikoissa, jotka eivät täyty, on jotain erikoista”

    8. 8

      Automatia arvioi rahojen riittävän käteisautomaateissa vartijoiden lakon aikana

    9. 9

      Uusi tehdas heikensi Ponssen tulosta – uusia tilauksia tuli ennätystahtiin

    10. 10

      Wärtsilän osake reippaassa laskussa

    11. Näytä lisää
    1. 1

      Suomalaisten yleisin ansio on 2 600 €/kk – riittääkö se elämiseen?

    2. 2

      Lähes 8 500 vartijaa menossa lakkoon – turvallisuusalan johtaja varoittaa: ”Vaikutukset voivat näkyä melkein missä vaan”

    3. 3

      Vain murto-osa JHL:n jäsenistä on lakossa – millä perusteella lakkokohteet on valittu?

    4. 4

      Nuorilta kysyttiin, millaiseen työpaikkaan he haluaisivat – suomalaisten vastaukset pomoista yllättivät

    5. 5

      Joka kymmenes jättää työnteon perjantaina väliin – tässä syyt

    6. 6

      Vartijoiden lakko voi ruuhkauttaa lentokenttää – tarkista tilanne, jos olet lähdössä matkalle

    7. 7

      Osa Sähköliiton jäsenistä liittyy Teollisuusliiton kolmen päivän lakkoon – koskee yli 90 yritystä

    8. 8

      Poliisi vahvistaa: Hermitage-yhtiöstä tullut tutkintapyyntö

    9. 9

      Ilmarinen: Nyt on käsillä nousukauden viimeiset hetket

    10. 10

      Verkkouutiset: Työmarkkina­järjestöiltä tulossa ehdotus irtisanomis­kiistaan

    11. Näytä lisää
    1. 1

      Miljonääri sai tarpeekseen lakosta: tarjoaa seinäjokelais­koululle ruokailun hotelli Sorsanpesässä

    2. 2

      Teollisuusliitto irtisanoo kikyn työajan pidennykset viidellä alalla

    3. 3

      Suomalaisbroileri kuohuttaa Ruotsissa: ”Kuin isku kasvoille”

    4. 4

      Lakko uhkaa jättää lapset nälkäisiksi: Sporttibaari toimittaa pizzat päiväkotiin

    5. 5

      40 000 euron velat kerännyt eläkeläinen ei saanut armoa oikeudessa – oli velkaantunut ”vastuuttomasti”

    6. 6

      Irtisanottu työntekijä sai 40 000 euron korvaukset – liitto: ”Henkilökemiat menivät ristiin”

    7. 7

      Pahaa-aavistamattoman miehen nimiin otettiin 180 000 euroa lainaa vain kahdessa päivässä

    8. 8

      Korkmanilta suorat sanat irtisanomiskiistasta HS:ssä: ”Jupakka jää historiaan esimerkkinä jääräpäisyydestä ja kollektiivisesta tyhmyydestä”

    9. 9

      Maanantain lakko herätti vastareaktion – yrittäjät ympäri Suomea tarjoavat apuaan

    10. 10

      JHL järjestää kahden päivän lakon irtisanomislain takia – yli 10 000 jäsentä lakkoon

    11. Näytä lisää