Digitoday

Elon Muskilta rahaa suomalaisprojektille: Pitäisikö tekoälyn tuntea inhoa?

Julkaistu: , Päivitetty:

Inhimillisten arvojen ja reaktioiden opettaminen tekoälylle on konstikasta puuhaa.


Tekoälytutkimus etenee valtavaa vauhtia. Yksi huolista kehittyneen tekoälyn suhteen on se, että ilman ihmisen valvontaa toimivan tekoälyn pitäisi kyetä itse huolehtimaan siitä, että sen käytös on moraalisesti hyväksyttävää.

Tähän keskittyy Kaj Sotalan ja tämän nimettömänä pysyttelevän yhteistyökumppanin projekti, jota Future of Life -instituutti tukee Elon Muskin lahjoittamilla rahoilla 20 000 dollarin edestä.

– Tässä on se ongelma, että moraalisiin kysymyksiin liittyy sellaisia käsitteitä kuin vaikkapa ihmisoikeudet, joita ei pysty suoraan määrittelemään formaalisti, vaan koneelle pitäisi jotenkin opettaa ne, Sotala selvittää.

Sotalan mukaan on epäselvää, missä määrin moraalisten arvojen oppiminen eroaa käsitteiden oppimisesta yleensä. Ei ole tietoa siitä, voiko arvojen opettamiseen käyttää samaa oppimisalgoritmia, jolla koneelle opetetaan kaikki muukin.
MAINOS (TEKSTI JATKUU ALLA)
MAINOS PÄÄTTYY

– Moraalipsykologiassa on pohdittu esimerkiksi sitä, onko ihmisen taipumus kokea inhoa sellainen asia, joka vaikuttaa moraalisiin arvoihin, Sotala kertoo.

Tämä tekisi arvoista monimutkaisempia asioita oppimisen kannalta kuin monet muunlaiset käsitteet.

– Herää kysymys, pitäisikö tekoälylle rakentaa vastine inhon tunteesta, että se oppisi moraalin samalla tapaa kuin ihmiset. Ja jos pitäisi, niin miten vahva? Sotala pohtii.

Tunteen opettaminen koneelle ei ole aivan suoraviivaista.

– Esimerkiksi yksi ajatus tekoälyn tunnekysymyksissä on niin sanottu embodiment-kysymys. Jos ajatellaan vaikkapa pelon tunnetta, niin se on ihmisessä seurausta vaaran havaitsemisesta ja se johtaa fysiologisiin reaktioihin. Adrenaliinia erittyy, joka valmistaa kehon pakenemaan tai taistelemaan. Tarvitseeko tekoäly vaikkapa tällaisia kytkentöjä mallintavan kehon vastineen, jotta voidaan toteuttaa koneelle inhimillinen pelontunne? Sotala kysyy.

Opintomateriaalia oikeuden pöytäkirjoista

Projektin ensimmäinen tavoite on tehdä perinpohjainen kirjallisuuskatsaus aiheesta tehdystä tutkimuksesta, jotta ymmärrettäisiin paremmin, mitä kaikkea pitää ottaa huomioon teoreettisella tasolla. Tämä saadaan toteutettua alkuvaiheen rahoituksella puolessa vuodessa.

– Haluamme selvittää, miten todennäköisesti tekoälyt edes voi saada hahmottamaan maailmaa samalla tavalla kuin ihmiset, Sotala linjaa.

Alun perin projektiin haettiin 100 000 dollarin tukea, jolla olisi voitu palkata Sotala täyspäiväisesti ja pari avustajaa osa-aikaisesti vuodeksi. Tavoitteisiin kuului myös kaksi lisävaihetta.

Katsauksen jälkeen toisena tavoitteena on tutkia, voiko deep learning (tekoälytutkimuksen sanastoa, joka viittaa jättimäisten datamäärien syöttämiseen tekoälyn oppimisen tietopohjaksi) -metodeja hyväksikäyttäen saada tekoälyn oppimaan moraalisia käsitteitä sopivasta lähtödatasta.

– Sopivan datasetin luominen olisi suurimpia tehtäviä tässä vaiheessa. Olemme pyöritelleet alustavia ideoita esimerkiksi oikeusjuttujen pöytäkirjoista, mutta meillä ei vielä ole konkreettisesti määriteltyä lopputulosta tästä.

Kolmannessa vaiheessa tutkijat aikovat tutkia psykologiaa ja koneoppimista yhdistävää hypoteesiaan siitä, miten ihmiset oppivat arvonsa ja miten ne toimivat algoritmisella tasolla. Tähän riittävät ainakin osittain rahkeet nykyisen rahoituksen puitteissa.

Sotalan mukaan ehdotuksia tutkinut lautakunta piti tutkimussuunnitelmaa ja ideoita hyvänä. Tavoitteiden kunnianhimoisuus, sekä tutkijoiden nuori ikä ja alkuvaiheissaan olevat urat, johtivat kuitenkin siihen, että täyden rahoituksen sijaan projektille myönnettiin "siemenrahoitus". Ainakin teoriassa on mahdollista, että projektia tuetaan suuremmalla summalla, jos lopputulokset ovat lupaavia.

Musk lahjoitti erilaisiin tekoälyprojekteihin peräti 7 miljoonaa dollaria. Täyden listan tukeen oikeutetuista löydät täältä.

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Petteri Jussilan ex-puoliso kertoo tv:ssä, miten kuuli Jussilan ja Jutta Gustafsbergin salasuhteesta – tv:ssä vilahtanut lippis narautti parin

    2. 2

      Uusi feministinen Instagram-ilmiö leviää: naiset levittelevät haarojaan kuvissa – myös Maria Veitola osallistui

    3. 3

      17 hurjaa sekuntia saivat hiihtolegenda Harri Kirvesniemen pyörittelemään päätään – ”En muista nähneeni tuollaista”

    4. 4

      Jarno tallensi videolle harvinaisen näyn – sudet tulivat todella lähelle: ”Eivät tuntuneet häiriintyvän, vaikka pistin pääni ulos kopista ja rääkäisin”

    5. 5

      USA:n ulkoministeri Rex Tillerson ei lähetä korkeimpia virkamiehiään Intiaan – CNN: Syynä Ivanka Trump

    6. 6

      Eino Grön: Hoitokoti on vaimolleni paras ratkaisu

    7. 7

      Suomalainen Ville osti kahden miljoonan taalan aterian – ja antaa sen pois

    8. 8

      Juice Leskisen kuolemasta 11 vuotta: Tampereella käynnistyi keskustelu hautakiven kunnosta – Sari-leski kertoo nyt IS:lle mielipiteensä

    9. 9

      Älä ikinä sano näitä lapselle – 8 haitallista lausetta, jotka lipsahtavat suusta liian helposti

    10. 10

      Yksi kuva kertoo, miksi valkohäntäpeurojen kanta kasvaa nopeasti – Arto ikuisti näyn keittiön ikkunasta

    11. Näytä lisää
    1. 1

      Aamulypsyn Jaajo Linnonmaa joutui kohun keskelle – näin juontaja itse kommentoi tilannetta

    2. 2

      Sinkku Maria, 34, kävi lupaavilla Tinder-treffeillä – fiilis muuttui hetkessä ravintolasta lähtiessä

    3. 3

      Urheilijatähti väittää tulleensa raiskatuksi Helsingissä – Patrik Sjöberg raivostui asian käsittelystä: ”Kesti puoli tuntia selvittää tekijä”

    4. 4

      Juhana, 30, yllättyi: Avasi puhelimen, sisältä paljastui muuta mitä piti – huomaisitko eroa?

    5. 5

      Uusi feministinen Instagram-ilmiö leviää: naiset levittelevät haarojaan kuvissa – myös Maria Veitola osallistui

    6. 6

      Kuvat: Tiffany Trump, 24, kohautti lyhyellä hameella – sisarukset edustivat yhdessä harvinaisesti

    7. 7

      Poliisilta lisätietoa Juuan kuolonkolarista: ”Rekka tuli valitettavasti juuri silloin vastaan”

    8. 8

      Vladimir Putinin viesti Venäjän aseteollisuudelle: Valmistautukaa sotaan

    9. 9

      Älä ikinä sano näitä lapselle – 8 haitallista lausetta, jotka lipsahtavat suusta liian helposti

    10. 10

      Verkkokauppa.com julkaisi palautetuimpien tuotteiden Top 25 -listan

    11. Näytä lisää
    1. 1

      Rouvan alaston yövieras tuli isäntää vastaan kotipihalla – se letkautus naulautui taksikuskin mieleen pysyvästi

    2. 2

      Raskasta joulua -konsertti osoittautui raskaaksi pettymykseksi Oulussa – kuulijat raivoissaan: ”Nyt on rahastuksen makua!”

    3. 3

      Katso, kuinka monella suomalaisella on sama sukunimi kuin sinulla

    4. 4

      Aku Hirviniemi sai keskellä yötä viestin ex-puolisoltaan Niina Lahtiselta – ”Alkaako vanha suola janottaa?”

    5. 5

      Kuvassa näkyvän pysähtyneen henkilöauton kuljettaja, soita heti poliisille

    6. 6

      Elina, 33, muutti Oulusta Italiaan ja huomasi ison eron työmoraalissa: ”Suomessa se on juuri toisin päin”

    7. 7

      10 asiaa, jotka tapahtuvat, kun lakkaat syömästä leipää

    8. 8

      Lentokone lähti rajuun nousuun kesken laskeutumisen Helsinki-Vantaalle – matkustajat hämmästyivät

    9. 9

      Kenen Suomi-julkkiksen kanssa olet samanpituinen? Tarkista yli 150 nimen listasta

    10. 10

      Turkkilaisnaisen, 71, uskomattoman nuorekas ulkonäkö lyö ällikällä – kauneuden salaisuus kebab

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Petteri Jussilan ex-puoliso kertoo tv:ssä, miten kuuli Jussilan ja Jutta Gustafsbergin salasuhteesta – tv:ssä vilahtanut lippis narautti parin

    2. 2

      Uusi feministinen Instagram-ilmiö leviää: naiset levittelevät haarojaan kuvissa – myös Maria Veitola osallistui

    3. 3

      17 hurjaa sekuntia saivat hiihtolegenda Harri Kirvesniemen pyörittelemään päätään – ”En muista nähneeni tuollaista”

    4. 4

      Jarno tallensi videolle harvinaisen näyn – sudet tulivat todella lähelle: ”Eivät tuntuneet häiriintyvän, vaikka pistin pääni ulos kopista ja rääkäisin”

    5. 5

      USA:n ulkoministeri Rex Tillerson ei lähetä korkeimpia virkamiehiään Intiaan – CNN: Syynä Ivanka Trump

    6. Näytä lisää
    1. 1

      Aamulypsyn Jaajo Linnonmaa joutui kohun keskelle – näin juontaja itse kommentoi tilannetta

    2. 2

      Sinkku Maria, 34, kävi lupaavilla Tinder-treffeillä – fiilis muuttui hetkessä ravintolasta lähtiessä

    3. 3

      Urheilijatähti väittää tulleensa raiskatuksi Helsingissä – Patrik Sjöberg raivostui asian käsittelystä: ”Kesti puoli tuntia selvittää tekijä”

    4. 4

      Juhana, 30, yllättyi: Avasi puhelimen, sisältä paljastui muuta mitä piti – huomaisitko eroa?

    5. 5

      Uusi feministinen Instagram-ilmiö leviää: naiset levittelevät haarojaan kuvissa – myös Maria Veitola osallistui

    6. Näytä lisää
    1. 1

      Rouvan alaston yövieras tuli isäntää vastaan kotipihalla – se letkautus naulautui taksikuskin mieleen pysyvästi

    2. 2

      Raskasta joulua -konsertti osoittautui raskaaksi pettymykseksi Oulussa – kuulijat raivoissaan: ”Nyt on rahastuksen makua!”

    3. 3

      Katso, kuinka monella suomalaisella on sama sukunimi kuin sinulla

    4. 4

      Aku Hirviniemi sai keskellä yötä viestin ex-puolisoltaan Niina Lahtiselta – ”Alkaako vanha suola janottaa?”

    5. 5

      Kuvassa näkyvän pysähtyneen henkilöauton kuljettaja, soita heti poliisille

    6. Näytä lisää