Digitoday

Valikko

Suomalaistutkija opettaa tekoälylle moraalia Elon Muskin rahoilla

Julkaistu:

Tekoäly
Jotta tekoäly ymmärtäisi ihmistoimintaa, sille pitää opettaa inhimillisiä arvoja.
Tekoälytutkimus etenee huimaa vauhtia. Yksi huolista kehittyneen tekoälyn kanssa on se, että ilman ihmisen valvontaa toimivan tekoälyn pitäisi pystyä osata itse huolehtia siitä, että sen käytös on moraalisesti hyväksyttävää.

Tähän keskittyy Kaj Sotalan ja tämän nimettömänä pysyttelevän yhteistyökumppanin projekti, jota Future of Life -instituutti tukee Elon Muskin lahjoittamilla rahoilla 20 000 dollarin edestä.

– Tässä on se ongelma, että moraalisiin kysymyksiin liittyy sellaisia käsitteitä kuin vaikkapa ihmisoikeudet, joita ei pysty suoraan määrittelemään formaalisti, vaan koneelle pitäisi jotenkin opettaa ne, Sotala selvittää.

Sotalan mukaan on epäselvää missä määrin moraalisten arvojen oppiminen eroaa käsitteiden oppimisesta yleensä. Ei ole tietoa siitä, voiko arvojen opettamiseen käyttää samaa oppimisalgoritmia, jolla koneelle opetetaan kaikki muukin.

– Moraalipsykologiassa on pohdittu esimerkiksi sitä onko ihmisen taipumus kokea inhoa sellainen asia, joka vaikuttaa moraalisiin arvoihin, Sotala kertoo.

Tämä tekisi arvoista monimutkaisempia asioita oppimisen kannalta kuin monet muunlaiset käsitteet.

– Herää kysymys pitäisikö tekoälylle rakentaa vastine inhon tunteesta, että se oppisi moraalin samalla tapaa kuin ihmiset. Ja jos pitäisi, niin miten vahva? Sotala pohtii.

Tunteen opettaminen koneelle ei ole aivan yksinkertaista.

– Esimerkiksi yksi ajatus tekoälyn tunnekysymyksissä on niin sanottu embodiment-kysymys. Jos ajatellaan vaikkapa pelon tunnetta, niin se on ihmisessä seurausta vaaran havaitsemisesta ja se johtaa fysiologisiin reaktioihin. Adrenaliinia erittyy, joka valmistaa kehon pakenemaan tai taistelemaan. Tarvitseeko tekoäly vaikkapa tällaisia kytkentöjä mallintavan kehon vastineen, jotta voidaan toteuttaa koneelle inhimillinen pelontunne? Sotala kysyy.

Opintomateriaalia oikeuden pöytäkirjoista

Projektin ensimmäinen tavoite on tehdä perinpohjainen kirjallisuuskatsaus aiheesta tehdystä tutkimuksesta, jotta ymmärrettäisiin paremmin mitä kaikkea pitää ottaa huomioon teoreettisella tasolla. Tämä saadaan toteutettua alkuvaiheen rahoituksella puolessa vuodessa.

– Haluamme selvittää miten todennäköisesti tekoälyt edes voi saada hahmottamaan maailmaa samalla tavalla kuin ihmiset, Sotala linjaa.

Alunperin projektiin haettiin 100 000 dollarin tukea, jolla olisi voitu palkata Sotala täyspäiväisesti ja pari avustajaa osa-aikaisesti vuodeksi. Tavoitteisiin kuului myös kaksi lisävaihetta.

Katsauksen jälkeen toisena tavoitteena on tutkia voiko deep learning (tekoälytutkimuksen menetelmä, jossa tyypillisesti suuresta määrästä dataa pyritään algoritmien avulla tekemään korkean tason abstraktioita) -metodeja hyväksikäyttäen saada tekoälyn oppimaan moraalisia käsitteitä sopivasta lähtödatasta.

– Sopivan datasetin luominen olisi suurimpia tehtäviä tässä vaiheessa. Olemme pyöritelleet alustavia ideoita esimerkiksi oikeusjuttujen pöytäkirjoista, mutta meillä ei vielä ole konkreettisesti määriteltyä lopputulosta tästä.

Kolmannessa vaiheessa tutkijat aikovat tutkia psykologiaa ja koneoppimista yhdistävää hypoteesiaan siitä miten ihmiset oppivat arvonsa ja miten ne toimivat algoritmisella tasolla. Tähän riittävät ainakin osittain rahkeet nykyisen rahoituksen puitteissa.

Sotalan mukaan ehdotuksia tutkinut lautakunta piti tutkimussuunnitelmaa ja ideoita hyvänä. Tavoitteiden kunnianhimoisuus, sekä tutkijoiden nuori ikä ja alkuvaiheissaan olevat urat, johtivat kuitenkin siihen, että täyden rahoituksen sijaan projektille myönnettiin "siemenrahoitus". Ainakin teoriassa on mahdollista, että projektia tuetaan suuremmalla summalla, jos lopputulokset ovat lupaavia.

Musk lahjoitti erilaisiin tekoälyprojekteihin peräti 7 miljoonaa dollaria. Täyden listan tukeen oikeutetuista löydät täältä.

Kommentit

    Näytä lisää
    Kommentointi on päättynyt
    Näitä luetaan!
    1. 1

      11-vuotiaasta tytöstä jaettiin seksuaalisia kuvia internetiin – äiti stailasi ja tuttava kuvasi

    2. 2

      Vastasyntynyt vauva ällistytti kätilön vain minuutteja syntymän jälkeen –”Herranjumala, tyttö kävelee!”

    3. 3

      Jättiyllätys! Vain elämää palaa syksyllä – mukana aiempien kausien tähtiä: Cheek, Sanni, Kaija Koo...

    4. 4

      Tuoreen ylioppilaan Oton, 19, elämä mullistui Kanarialla – kansainväliset urasuunnitelmat kariutuivat: Oli otettava järki käteen

    5. 5

      Tara-terrieri jäi jumiin tierummun sisään: vesiletkulla ulos huuhdotun koiran suusta löytyi yllätys

    6. 6

      Lomarahoista pois kolmannes: katso, kuinka leikkuri iskee tuloihin

    7. 7

      Paavo Lipposen kaunis Emilia-tytär, 19, kirjoitti ylioppilaaksi loistavin arvosanoin – ei seuraa vanhempiaan politiikkaan

    8. 8

      Alkoholilain uudistukselle aiotaan panna tänään piste – tässäkö ratkaisu?

    9. 9

      Vesistö kirkastettiin 200 tonnilla kemikaalia – Sukeltajat hämmentyivät: Littoistenjärvi taas täysin samea

    10. 10

      Donald Trump keinahteli ja lauloi kansallislaulua teatraalisesti – some räjähti: ”Kuin ekaluokkalainen”

    11. Näytä lisää
    1. 1

      Mittava poliisioperaatio Länsisatamassa – poliisi etsii vaarallista henkilöä

    2. 2

      Lola Odusoga julkaisi meikittömän treenikuvan – vilauttaa paljasta vatsaansa: ”Epätäydellisyys on kaunista”

    3. 3

      Laskuvarjo ei auennut – tuhannet todistivat karmeaa onnettomuutta laivaston näytöksessä New Yorkissa

    4. 4

      Hinkkaavatko sisäreidet yhteen? 10 näppärää kikkaa, joilla ratkaiset ikuisuusongelman

    5. 5

      Vesistö kirkastettiin 200 tonnilla kemikaalia – Sukeltajat hämmentyivät: Littoistenjärvi taas täysin samea

    6. 6

      Mallikaunotar ja menestynyt bisnesnainen päätyi osaksi miljardöörin tosielämän haaremia – mykistävät yksityiskohdat: 11 vaimoa nautintoja varten

    7. 7

      Pamela Anderson, 49, selittää IS:lle muuttunutta ulkonäköään – kaiken takana yksi päätös: ”En yksinkertaisesti jaksa enää tässä iässä”

    8. 8

      Mitä on tapahtunut Tiger Woodsille? Ratista kärynnyttä tähteä tuskin tunnistaa pidätyskuvasta

    9. 9

      Vastasyntynyt vauva ällistytti kätilön vain minuutteja syntymän jälkeen –”Herranjumala, tyttö kävelee!”

    10. 10

      Mies korkkasi oluen – talo räjähti alta

    11. Näytä lisää
    1. 1

      IS seuraa hetki hetkeltä: Ainakin 22 kuoli Manchesterin iskussa – epäilty tallentui valvontakameraan

    2. 2

      Tietoa Michael Schumacherin tilasta varjellaan visusti – nyt perheen vaikenemiselle saatiin selitys

    3. 3

      Ratapölkyn haju paljasti omakotitalosta ikävän yllätyksen –myyjä joutuu palauttamaan 202000 euroa

    4. 4

      Tunteikas kuva presidentti Koiviston hautajaisista: Assi Koivisto näytti hellän puolensa

    5. 5

      Aviomies valitsi vaimolleen mekon: TTK-kaunotar varasti show’n tv:ssä – lateksiasu paljasti kookkaat rinnat

    6. 6

      Katy Perry, 32, vilautti herkkiä paikkojaan konsertissa – kamerat räpsähtivät: Paljastavat kuvat leviävät vauhdilla

    7. 7

      Roope Salminen haastatteli Cheyenne Järvistä – Sara Sieppi raivostui: ”Parempi reitti kuin reittä pitkin”

    8. 8

      Helmikuussa kadonnut Harry Karjalainen löytyi kuolleena

    9. 9

      Yle näyttää suomalaisen K18-elokuvan – Marianne Träskman esiintyi elokuvassa teini-ikäisenä ja kertoo nyt eroottisista kohukohtauksista

    10. 10

      Näin Sebastian Vettel vei Monacon voiton Kimi Räikköseltä – IS seurasi F1-kisaa

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      11-vuotiaasta tytöstä jaettiin seksuaalisia kuvia internetiin – äiti stailasi ja tuttava kuvasi

    2. 2

      Vastasyntynyt vauva ällistytti kätilön vain minuutteja syntymän jälkeen –”Herranjumala, tyttö kävelee!”

    3. 3

      Jättiyllätys! Vain elämää palaa syksyllä – mukana aiempien kausien tähtiä: Cheek, Sanni, Kaija Koo...

    4. 4

      Tuoreen ylioppilaan Oton, 19, elämä mullistui Kanarialla – kansainväliset urasuunnitelmat kariutuivat: Oli otettava järki käteen

    5. 5

      Tara-terrieri jäi jumiin tierummun sisään: vesiletkulla ulos huuhdotun koiran suusta löytyi yllätys

    6. Näytä lisää
    1. 1

      Mittava poliisioperaatio Länsisatamassa – poliisi etsii vaarallista henkilöä

    2. 2

      Lola Odusoga julkaisi meikittömän treenikuvan – vilauttaa paljasta vatsaansa: ”Epätäydellisyys on kaunista”

    3. 3

      Laskuvarjo ei auennut – tuhannet todistivat karmeaa onnettomuutta laivaston näytöksessä New Yorkissa

    4. 4

      Hinkkaavatko sisäreidet yhteen? 10 näppärää kikkaa, joilla ratkaiset ikuisuusongelman

    5. 5

      Vesistö kirkastettiin 200 tonnilla kemikaalia – Sukeltajat hämmentyivät: Littoistenjärvi taas täysin samea

    6. Näytä lisää
    1. 1

      IS seuraa hetki hetkeltä: Ainakin 22 kuoli Manchesterin iskussa – epäilty tallentui valvontakameraan

    2. 2

      Tietoa Michael Schumacherin tilasta varjellaan visusti – nyt perheen vaikenemiselle saatiin selitys

    3. 3

      Ratapölkyn haju paljasti omakotitalosta ikävän yllätyksen –myyjä joutuu palauttamaan 202000 euroa

    4. 4

      Tunteikas kuva presidentti Koiviston hautajaisista: Assi Koivisto näytti hellän puolensa

    5. 5

      Aviomies valitsi vaimolleen mekon: TTK-kaunotar varasti show’n tv:ssä – lateksiasu paljasti kookkaat rinnat

    6. Näytä lisää