Digitoday

Google: Tekoäly tarvitsee "ison punaisen napin"

Julkaistu: , Päivitetty:

Koneoppimista aktiivisesti kehittävä Google tahtoo varokeinon siltä varalta, että tekoäly tekee jotakin ei-toivottua.
Hallinnasta karkaava tekoäly on monien tieteistarinoiden kauhukuva 2001: Avaruusseikkailusta Terminator-elokuviin. On sekä pelottavaa että huojentavaa lukea, että tekoälyn kehittäjät ottavat tällaisen mahdollisuuden vakavasti.

Aiheesta uutisoi esimerkiksi The Verge. Googlen omistama tekoälylaboratorio DeepMind ja Oxfordin yliopisto tekivät tekoälyn hallinnasta vuonna 2014 seikkaperäisen tutkimuksen (pdf), joka on julkaistu Machine Intelligence Research Instituten verkkosivuilla.

– Jos sellainen toimija operoi reaaliajassa ihmisen valvonnassa, voi ajoittain tulla tarpeen painaa isoa punaista nappia estämään toimijaa jatkamasta vahingollista toimenpiteiden sarjaa – vahingollista joko toimijalle tai ympäristölle – ja johdattamaan toimija turvallisempaan tilanteeseen, Safely Interruptible Agents (Turvallisesti keskeytettävät toimijat) -nimisessä raportissa kirjoitetaan.

Iso punainen nappi on tässä yhteydessä lähinnä vertauskuva keinolle saada tekoäly pysäytettyä nopeasti, oli se sitten käytössä tehdasrobotissa, itsestään ajavassa autossa tai vaikka vain ohjelmallisesti osana jotakin laajaa verkkopalvelua – kuten Googlen hakua tai Facebookia, joka myös on varsin aktiivinen tekoälyn kehittäjä.
MAINOS (TEKSTI JATKUU ALLA)
MAINOS PÄÄTTYY

Google ja yliopisto tutkivat raportissaan myös sellaista mahdollisuutta, että tekoäly oppii ohittamaan käskyt keskeyttää toimintansa. Näin voisi käydä, jos itseoppiva tietokoneohjelma kokee saavansa palkkion keskeytettävästä toiminnastaan. Tutkijat esittävät ratkaisuksi itseoppiviin älykkyyksiin liittyvien palkkiojärjestelmien manipulointia.

Ihmismäisesti maailmaa hahmottava ja ymmärtävä tekoäly lienee vielä varsin kaukana. Facebookin Mark Zuckerberg ennusti kuitenkin äskettäin, että joillakin rajatuilla alueilla, kuten näkemisessä, kuulemisessa ja kielenkäytössä, tietokone voi olla ihmistä parempi jo 5–10 vuodessa.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Uusi feministinen Instagram-ilmiö leviää: naiset levittelevät haarojaan kuvissa – myös Maria Veitola osallistui

    2. 2

      Juice Leskisen kuolemasta 11 vuotta: Tampereella käynnistyi keskustelu hautakiven kunnosta – Sari-leski kertoo nyt IS:lle mielipiteensä

    3. 3

      Älä ikinä sano näitä lapselle – 8 haitallista lausetta, jotka lipsahtavat suusta liian helposti

    4. 4

      Pohjois-Korea ryhtyi toimiin rajavyöhykkeellä – työläiset kaivavat ojaa ja istuttavat puita kohtaan, josta sotilas loikkasi etelään

    5. 5

      Jarno tallensi videolle harvinaisen näyn – sudet tulivat todella lähelle: ”Eivät tuntuneet häiriintyvän, vaikka pistin pääni ulos kopista ja rääkäisin”

    6. 6

      Sinkku Maria, 34, kävi lupaavilla Tinder-treffeillä – fiilis muuttui hetkessä ravintolasta lähtiessä

    7. 7

      Aamulypsyn Jaajo Linnonmaa joutui kohun keskelle – näin juontaja itse kommentoi tilannetta

    8. 8

      Sasun haarukkaan tarttui auki rullattu kondomi – opiskelijaruokalan kastikkeesta paljastui ällöttävä yllätys

    9. 9

      Syyte: 95-vuotias rouva ryösteli arkeologisia aarteita Lähi-idässä – Australia tutkii ”Indiana Joanin” kokoelmaa

    10. 10

      Mitä henkeäsalpaavia kaunottaria! Nämä viisi lumoavan kaunista naista ovat Miss Universum -kisojen voittajasuosikkeja

    11. Näytä lisää
    1. 1

      Sinkku Maria, 34, kävi lupaavilla Tinder-treffeillä – fiilis muuttui hetkessä ravintolasta lähtiessä

    2. 2

      Aamulypsyn Jaajo Linnonmaa joutui kohun keskelle – näin juontaja itse kommentoi tilannetta

    3. 3

      Janne Ahosen yllätysratkaisu: Mico-poika sai lopettaa koulun 15-vuotiaana – ”Vaimo oli aluksi hieman kriittinen”

    4. 4

      Fanit surevat tangoprinssi Dimitri Sjöbergin varhaista poismenoa – ”Ääni oli sulaa kultaa”

    5. 5

      Urheilijatähti väittää tulleensa raiskatuksi Helsingissä – Patrik Sjöberg raivostui asian käsittelystä: ”Kesti puoli tuntia selvittää tekijä”

    6. 6

      Juhana, 30, yllättyi: Avasi puhelimen, sisältä paljastui muuta mitä piti – huomaisitko eroa?

    7. 7

      Napakympin Marko valitsi Neiti A:n – yhteiselle matkalle lähtikin Neiti B: ”Ei tarvinnut kuunnella naputusta”

    8. 8

      Kuvat: Tiffany Trump, 24, kohautti lyhyellä hameella – sisarukset edustivat yhdessä harvinaisesti

    9. 9

      Poliisilta lisätietoa Juuan kuolonkolarista: ”Rekka tuli valitettavasti juuri silloin vastaan”

    10. 10

      Vladimir Putinin viesti Venäjän aseteollisuudelle: Valmistautukaa sotaan

    11. Näytä lisää
    1. 1

      Rouvan alaston yövieras tuli isäntää vastaan kotipihalla – se letkautus naulautui taksikuskin mieleen pysyvästi

    2. 2

      Raskasta joulua -konsertti osoittautui raskaaksi pettymykseksi Oulussa – kuulijat raivoissaan: ”Nyt on rahastuksen makua!”

    3. 3

      Katso, kuinka monella suomalaisella on sama sukunimi kuin sinulla

    4. 4

      Aku Hirviniemi sai keskellä yötä viestin ex-puolisoltaan Niina Lahtiselta – ”Alkaako vanha suola janottaa?”

    5. 5

      Kuvassa näkyvän pysähtyneen henkilöauton kuljettaja, soita heti poliisille

    6. 6

      Elina, 33, muutti Oulusta Italiaan ja huomasi ison eron työmoraalissa: ”Suomessa se on juuri toisin päin”

    7. 7

      10 asiaa, jotka tapahtuvat, kun lakkaat syömästä leipää

    8. 8

      Lentokone lähti rajuun nousuun kesken laskeutumisen Helsinki-Vantaalle – matkustajat hämmästyivät

    9. 9

      Kenen Suomi-julkkiksen kanssa olet samanpituinen? Tarkista yli 150 nimen listasta

    10. 10

      Turkkilaisnaisen, 71, uskomattoman nuorekas ulkonäkö lyö ällikällä – kauneuden salaisuus kebab

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Uusi feministinen Instagram-ilmiö leviää: naiset levittelevät haarojaan kuvissa – myös Maria Veitola osallistui

    2. 2

      Juice Leskisen kuolemasta 11 vuotta: Tampereella käynnistyi keskustelu hautakiven kunnosta – Sari-leski kertoo nyt IS:lle mielipiteensä

    3. 3

      Älä ikinä sano näitä lapselle – 8 haitallista lausetta, jotka lipsahtavat suusta liian helposti

    4. 4

      Pohjois-Korea ryhtyi toimiin rajavyöhykkeellä – työläiset kaivavat ojaa ja istuttavat puita kohtaan, josta sotilas loikkasi etelään

    5. 5

      Jarno tallensi videolle harvinaisen näyn – sudet tulivat todella lähelle: ”Eivät tuntuneet häiriintyvän, vaikka pistin pääni ulos kopista ja rääkäisin”

    6. Näytä lisää
    1. 1

      Sinkku Maria, 34, kävi lupaavilla Tinder-treffeillä – fiilis muuttui hetkessä ravintolasta lähtiessä

    2. 2

      Aamulypsyn Jaajo Linnonmaa joutui kohun keskelle – näin juontaja itse kommentoi tilannetta

    3. 3

      Janne Ahosen yllätysratkaisu: Mico-poika sai lopettaa koulun 15-vuotiaana – ”Vaimo oli aluksi hieman kriittinen”

    4. 4

      Fanit surevat tangoprinssi Dimitri Sjöbergin varhaista poismenoa – ”Ääni oli sulaa kultaa”

    5. 5

      Urheilijatähti väittää tulleensa raiskatuksi Helsingissä – Patrik Sjöberg raivostui asian käsittelystä: ”Kesti puoli tuntia selvittää tekijä”

    6. Näytä lisää
    1. 1

      Rouvan alaston yövieras tuli isäntää vastaan kotipihalla – se letkautus naulautui taksikuskin mieleen pysyvästi

    2. 2

      Raskasta joulua -konsertti osoittautui raskaaksi pettymykseksi Oulussa – kuulijat raivoissaan: ”Nyt on rahastuksen makua!”

    3. 3

      Katso, kuinka monella suomalaisella on sama sukunimi kuin sinulla

    4. 4

      Aku Hirviniemi sai keskellä yötä viestin ex-puolisoltaan Niina Lahtiselta – ”Alkaako vanha suola janottaa?”

    5. 5

      Kuvassa näkyvän pysähtyneen henkilöauton kuljettaja, soita heti poliisille

    6. Näytä lisää