Digitoday

Valikko

Elon Muskilta rahaa suomalaisprojektille: Pitäisikö tekoälyn tuntea inhoa?

Julkaistu: , Päivitetty:

Inhimillisten arvojen ja reaktioiden opettaminen tekoälylle on konstikasta puuhaa.


Tekoälytutkimus etenee valtavaa vauhtia. Yksi huolista kehittyneen tekoälyn suhteen on se, että ilman ihmisen valvontaa toimivan tekoälyn pitäisi kyetä itse huolehtimaan siitä, että sen käytös on moraalisesti hyväksyttävää.

Tähän keskittyy Kaj Sotalan ja tämän nimettömänä pysyttelevän yhteistyökumppanin projekti, jota Future of Life -instituutti tukee Elon Muskin lahjoittamilla rahoilla 20 000 dollarin edestä.

– Tässä on se ongelma, että moraalisiin kysymyksiin liittyy sellaisia käsitteitä kuin vaikkapa ihmisoikeudet, joita ei pysty suoraan määrittelemään formaalisti, vaan koneelle pitäisi jotenkin opettaa ne, Sotala selvittää.

Sotalan mukaan on epäselvää, missä määrin moraalisten arvojen oppiminen eroaa käsitteiden oppimisesta yleensä. Ei ole tietoa siitä, voiko arvojen opettamiseen käyttää samaa oppimisalgoritmia, jolla koneelle opetetaan kaikki muukin.

– Moraalipsykologiassa on pohdittu esimerkiksi sitä, onko ihmisen taipumus kokea inhoa sellainen asia, joka vaikuttaa moraalisiin arvoihin, Sotala kertoo.

Tämä tekisi arvoista monimutkaisempia asioita oppimisen kannalta kuin monet muunlaiset käsitteet.

– Herää kysymys, pitäisikö tekoälylle rakentaa vastine inhon tunteesta, että se oppisi moraalin samalla tapaa kuin ihmiset. Ja jos pitäisi, niin miten vahva? Sotala pohtii.

Tunteen opettaminen koneelle ei ole aivan suoraviivaista.

– Esimerkiksi yksi ajatus tekoälyn tunnekysymyksissä on niin sanottu embodiment-kysymys. Jos ajatellaan vaikkapa pelon tunnetta, niin se on ihmisessä seurausta vaaran havaitsemisesta ja se johtaa fysiologisiin reaktioihin. Adrenaliinia erittyy, joka valmistaa kehon pakenemaan tai taistelemaan. Tarvitseeko tekoäly vaikkapa tällaisia kytkentöjä mallintavan kehon vastineen, jotta voidaan toteuttaa koneelle inhimillinen pelontunne? Sotala kysyy.

Opintomateriaalia oikeuden pöytäkirjoista

Projektin ensimmäinen tavoite on tehdä perinpohjainen kirjallisuuskatsaus aiheesta tehdystä tutkimuksesta, jotta ymmärrettäisiin paremmin, mitä kaikkea pitää ottaa huomioon teoreettisella tasolla. Tämä saadaan toteutettua alkuvaiheen rahoituksella puolessa vuodessa.

– Haluamme selvittää, miten todennäköisesti tekoälyt edes voi saada hahmottamaan maailmaa samalla tavalla kuin ihmiset, Sotala linjaa.

Alun perin projektiin haettiin 100 000 dollarin tukea, jolla olisi voitu palkata Sotala täyspäiväisesti ja pari avustajaa osa-aikaisesti vuodeksi. Tavoitteisiin kuului myös kaksi lisävaihetta.

Katsauksen jälkeen toisena tavoitteena on tutkia, voiko deep learning (tekoälytutkimuksen sanastoa, joka viittaa jättimäisten datamäärien syöttämiseen tekoälyn oppimisen tietopohjaksi) -metodeja hyväksikäyttäen saada tekoälyn oppimaan moraalisia käsitteitä sopivasta lähtödatasta.

– Sopivan datasetin luominen olisi suurimpia tehtäviä tässä vaiheessa. Olemme pyöritelleet alustavia ideoita esimerkiksi oikeusjuttujen pöytäkirjoista, mutta meillä ei vielä ole konkreettisesti määriteltyä lopputulosta tästä.

Kolmannessa vaiheessa tutkijat aikovat tutkia psykologiaa ja koneoppimista yhdistävää hypoteesiaan siitä, miten ihmiset oppivat arvonsa ja miten ne toimivat algoritmisella tasolla. Tähän riittävät ainakin osittain rahkeet nykyisen rahoituksen puitteissa.

Sotalan mukaan ehdotuksia tutkinut lautakunta piti tutkimussuunnitelmaa ja ideoita hyvänä. Tavoitteiden kunnianhimoisuus, sekä tutkijoiden nuori ikä ja alkuvaiheissaan olevat urat, johtivat kuitenkin siihen, että täyden rahoituksen sijaan projektille myönnettiin "siemenrahoitus". Ainakin teoriassa on mahdollista, että projektia tuetaan suuremmalla summalla, jos lopputulokset ovat lupaavia.

Musk lahjoitti erilaisiin tekoälyprojekteihin peräti 7 miljoonaa dollaria. Täyden listan tukeen oikeutetuista löydät täältä.

  • Tekoäly

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      TMZ: Linkin Parkin solisti Chester Bennington, 41, on kuollut

    2. 2

      Teemu Selänteen pojat katsoivat ilmaiseksi keikkaa isänsä luksusjahdilta – lavalla esiintyneeltä Reino Nordinilta osuva kuitti aiheesta

    3. 3

      Linkin Parkin Mike Shinoda shokissa kollegansa yllättävästä kuolemasta – näin hän kommentoi suru-uutista, myös Chris Cornellin vaimolta sydäntä särkevä twiitti

    4. 4

      Kommentti: Linkin Parkin laulajan kuolema on tuntemattoman tähden tragedia

    5. 5

      Varusmies tuupertui maahan Cooperin testin jälkeen Vekaranjärvellä – IL: Todettiin myöhemmin aivokuolleeksi

    6. 6

      Linkin Parkin laulaja julkaisi koskettavan kirjeen, kun Chris Cornell teki itsemurhan: ”Itken edelleen” – kuoli itse Cornellin syntymäpäivänä

    7. 7

      Instagram sensuroi Emilian, 25, rohkean bikinikuvan – kahden lapsen äiti pöyristyi: ”Kun muodokkaampi nainen laittaa kuvan, se poistetaan”

    8. 8

      Seura: Nina Mikkosen suuri huoli pojistaan – molemmat ovat erityislapsia

    9. 9

      Nainen ei pessyt itseään pesuaineilla kahteen viikkoon – vaikutukset yllättivät

    10. 10

      Mies syntyi ilman jalkoja ja toista käsivartta – päätti silti ryhtyä kehonrakentajaksi

    11. Näytä lisää
    1. 1

      TMZ: Linkin Parkin solisti Chester Bennington, 41, on kuollut

    2. 2

      Tiedätkö, mitä oikeasti omistat? Syöpäsairaalla vaimolla oli käyttöoikeus muistisairaan miehensä tilille – maistraatti iski väliin

    3. 3

      Nainen ei pessyt itseään pesuaineilla kahteen viikkoon – vaikutukset yllättivät

    4. 4

      Teemu Selänteen pojat katsoivat ilmaiseksi keikkaa isänsä luksusjahdilta – lavalla esiintyneeltä Reino Nordinilta osuva kuitti aiheesta

    5. 5

      Yllätystieto – Arto Bryggare uskoo tietävänsä syyn Usain Boltin lopettamiseen

    6. 6

      Harrastatko sinäkin ”Pirkka-seksiä”? 7 syytä, miksi se on tajuttoman upeaa

    7. 7

      Varusmies tuupertui maahan Cooperin testin jälkeen Vekaranjärvellä – IL: Todettiin myöhemmin aivokuolleeksi

    8. 8

      Apu: Jethro Rostedt aikoo jäädä eläkkeelle 5 vuoden sisällä – kerskailee omaisuudellaan: ”Kyllä se miljoonissa lasketaan”

    9. 9

      Valtteri Bottas murjaisi vitsin Kimi Räikkösestä, kertoi myös ketä F1-kuskia ei haluaisi seurakseen autiolle saarelle

    10. 10

      ”Instagramin vihatuin mies” ensi kertaa yksiavioisena: rakastui 16 vuotta nuorempaan mallikaunottareen – härski kommentti ensitapaamisesta

    11. Näytä lisää
    1. 1

      Hanna menetti miehensä äkillisesti – Kimmosta jäi jälkeen vain hoitajan ojentama muovipussi

    2. 2

      Saara ja Esa panivat seksielämänsä kuntoon kahdessa viikossa: ”Miksi emme kokeilleet tätä aiemmin?”

    3. 3

      Harrastatko sinäkin ”Pirkka-seksiä”? 7 syytä, miksi se on tajuttoman upeaa

    4. 4

      Äiti ja isä löytyivät surmattuina – alkoi selvitä, että tytöille oli ehkä tapahtunut jotain vielä karmivampaa

    5. 5

      Venäläisturisteja virtaa Suomeen yllättävästä syystä – näitä hamstrataan nyt kaupoista

    6. 6

      Synkkä juhlailta Salossa – morsian joutui soittamaan poliisin omiin häihinsä

    7. 7

      Nuori nainen lähetti avoimen sairauslomaviestin – pomon reaktio sai itkemään

    8. 8

      Sabina Särkkä narahti uimapukukuvansa muokkaamisesta – kihlatun julkaisu paljasti totuuden: huomaatko eron?

    9. 9

      8 asiaa, joita pariskunnat tekevät, mutta eivät myönnä sitä – montako kohtaa myönnät?

    10. 10

      Räikkösellä musertava keskustelu tallin kanssa – ”En tiedä, mitä sanoa...”

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      TMZ: Linkin Parkin solisti Chester Bennington, 41, on kuollut

    2. 2

      Teemu Selänteen pojat katsoivat ilmaiseksi keikkaa isänsä luksusjahdilta – lavalla esiintyneeltä Reino Nordinilta osuva kuitti aiheesta

    3. 3

      Linkin Parkin Mike Shinoda shokissa kollegansa yllättävästä kuolemasta – näin hän kommentoi suru-uutista, myös Chris Cornellin vaimolta sydäntä särkevä twiitti

    4. 4

      Kommentti: Linkin Parkin laulajan kuolema on tuntemattoman tähden tragedia

    5. 5

      Varusmies tuupertui maahan Cooperin testin jälkeen Vekaranjärvellä – IL: Todettiin myöhemmin aivokuolleeksi

    6. Näytä lisää
    1. 1

      TMZ: Linkin Parkin solisti Chester Bennington, 41, on kuollut

    2. 2

      Tiedätkö, mitä oikeasti omistat? Syöpäsairaalla vaimolla oli käyttöoikeus muistisairaan miehensä tilille – maistraatti iski väliin

    3. 3

      Nainen ei pessyt itseään pesuaineilla kahteen viikkoon – vaikutukset yllättivät

    4. 4

      Teemu Selänteen pojat katsoivat ilmaiseksi keikkaa isänsä luksusjahdilta – lavalla esiintyneeltä Reino Nordinilta osuva kuitti aiheesta

    5. 5

      Yllätystieto – Arto Bryggare uskoo tietävänsä syyn Usain Boltin lopettamiseen

    6. Näytä lisää
    1. 1

      Hanna menetti miehensä äkillisesti – Kimmosta jäi jälkeen vain hoitajan ojentama muovipussi

    2. 2

      Saara ja Esa panivat seksielämänsä kuntoon kahdessa viikossa: ”Miksi emme kokeilleet tätä aiemmin?”

    3. 3

      Harrastatko sinäkin ”Pirkka-seksiä”? 7 syytä, miksi se on tajuttoman upeaa

    4. 4

      Äiti ja isä löytyivät surmattuina – alkoi selvitä, että tytöille oli ehkä tapahtunut jotain vielä karmivampaa

    5. 5

      Venäläisturisteja virtaa Suomeen yllättävästä syystä – näitä hamstrataan nyt kaupoista

    6. Näytä lisää