Digitoday

Suomalaistutkija opettaa tekoälylle moraalia Elon Muskin rahoilla

Julkaistu:

Tekoäly
Jotta tekoäly ymmärtäisi ihmistoimintaa, sille pitää opettaa inhimillisiä arvoja.
Tekoälytutkimus etenee huimaa vauhtia. Yksi huolista kehittyneen tekoälyn kanssa on se, että ilman ihmisen valvontaa toimivan tekoälyn pitäisi pystyä osata itse huolehtia siitä, että sen käytös on moraalisesti hyväksyttävää.

Tähän keskittyy Kaj Sotalan ja tämän nimettömänä pysyttelevän yhteistyökumppanin projekti, jota Future of Life -instituutti tukee Elon Muskin lahjoittamilla rahoilla 20 000 dollarin edestä.

– Tässä on se ongelma, että moraalisiin kysymyksiin liittyy sellaisia käsitteitä kuin vaikkapa ihmisoikeudet, joita ei pysty suoraan määrittelemään formaalisti, vaan koneelle pitäisi jotenkin opettaa ne, Sotala selvittää.

Sotalan mukaan on epäselvää missä määrin moraalisten arvojen oppiminen eroaa käsitteiden oppimisesta yleensä. Ei ole tietoa siitä, voiko arvojen opettamiseen käyttää samaa oppimisalgoritmia, jolla koneelle opetetaan kaikki muukin.

– Moraalipsykologiassa on pohdittu esimerkiksi sitä onko ihmisen taipumus kokea inhoa sellainen asia, joka vaikuttaa moraalisiin arvoihin, Sotala kertoo.

Tämä tekisi arvoista monimutkaisempia asioita oppimisen kannalta kuin monet muunlaiset käsitteet.

– Herää kysymys pitäisikö tekoälylle rakentaa vastine inhon tunteesta, että se oppisi moraalin samalla tapaa kuin ihmiset. Ja jos pitäisi, niin miten vahva? Sotala pohtii.

Tunteen opettaminen koneelle ei ole aivan yksinkertaista.

– Esimerkiksi yksi ajatus tekoälyn tunnekysymyksissä on niin sanottu embodiment-kysymys. Jos ajatellaan vaikkapa pelon tunnetta, niin se on ihmisessä seurausta vaaran havaitsemisesta ja se johtaa fysiologisiin reaktioihin. Adrenaliinia erittyy, joka valmistaa kehon pakenemaan tai taistelemaan. Tarvitseeko tekoäly vaikkapa tällaisia kytkentöjä mallintavan kehon vastineen, jotta voidaan toteuttaa koneelle inhimillinen pelontunne? Sotala kysyy.

Opintomateriaalia oikeuden pöytäkirjoista

Projektin ensimmäinen tavoite on tehdä perinpohjainen kirjallisuuskatsaus aiheesta tehdystä tutkimuksesta, jotta ymmärrettäisiin paremmin mitä kaikkea pitää ottaa huomioon teoreettisella tasolla. Tämä saadaan toteutettua alkuvaiheen rahoituksella puolessa vuodessa.

– Haluamme selvittää miten todennäköisesti tekoälyt edes voi saada hahmottamaan maailmaa samalla tavalla kuin ihmiset, Sotala linjaa.

Alunperin projektiin haettiin 100 000 dollarin tukea, jolla olisi voitu palkata Sotala täyspäiväisesti ja pari avustajaa osa-aikaisesti vuodeksi. Tavoitteisiin kuului myös kaksi lisävaihetta.

Katsauksen jälkeen toisena tavoitteena on tutkia voiko deep learning (tekoälytutkimuksen menetelmä, jossa tyypillisesti suuresta määrästä dataa pyritään algoritmien avulla tekemään korkean tason abstraktioita) -metodeja hyväksikäyttäen saada tekoälyn oppimaan moraalisia käsitteitä sopivasta lähtödatasta.

– Sopivan datasetin luominen olisi suurimpia tehtäviä tässä vaiheessa. Olemme pyöritelleet alustavia ideoita esimerkiksi oikeusjuttujen pöytäkirjoista, mutta meillä ei vielä ole konkreettisesti määriteltyä lopputulosta tästä.

Kolmannessa vaiheessa tutkijat aikovat tutkia psykologiaa ja koneoppimista yhdistävää hypoteesiaan siitä miten ihmiset oppivat arvonsa ja miten ne toimivat algoritmisella tasolla. Tähän riittävät ainakin osittain rahkeet nykyisen rahoituksen puitteissa.

Sotalan mukaan ehdotuksia tutkinut lautakunta piti tutkimussuunnitelmaa ja ideoita hyvänä. Tavoitteiden kunnianhimoisuus, sekä tutkijoiden nuori ikä ja alkuvaiheissaan olevat urat, johtivat kuitenkin siihen, että täyden rahoituksen sijaan projektille myönnettiin "siemenrahoitus". Ainakin teoriassa on mahdollista, että projektia tuetaan suuremmalla summalla, jos lopputulokset ovat lupaavia.

Musk lahjoitti erilaisiin tekoälyprojekteihin peräti 7 miljoonaa dollaria. Täyden listan tukeen oikeutetuista löydät täältä.

Kommentit

    Näytä lisää
    Kommentointi on päättynyt
    Näitä luetaan!
    1. 1

      Arkeologit avasivat keskiaikaisen haudan syrjäisellä saarella Englannissa – sisältö oli kaukana ihmisestä

    2. 2

      Playboy-mallin luomurinnat tuottavat hänelle suunnatonta tuskaa – avautui kivuistaan tv-ruudussa: Lääkäriltä simppeli neuvo

    3. 3

      Mopopoikien hurjastelulle järkyttävä loppu – kaksi teiniä lensi ilmassa maahan, toiselle vakava aivovamma

    4. 4

      HS: Vuokralainen kaatoi pastakattilan vedet keittiön lattialle – taloyhtiö vaatii oikeudessa 30 000 euroa

    5. 5

      Kemiläisen omakotitalon myynti-ilmoitus leviää internetissä – välittäjä: ”Kyllä siitä laittamalla talon saa”

    6. 6

      Anu jätti Suomen 5 vuotta sitten, kun matkalla töistä kotiin teki vain mieli itkeä – näin koko elämä muuttui

    7. 7

      Bussiyhtiö Nobinan työnseisaus alkoi, useita linja-autovuoroja peruttu – tieto seisauksesta tuli HSL:lle yllätyksenä

    8. 8

      Ulosmarssi katkaisee monta bussilinjaa torstaina – katso tästä tuleeko reitillesi muutoksia

    9. 9

      Kirsty, 21, joogaa alasti kohottaakseen itsetuntoaan – ”Miksi ihmiset ovat niin vihaisia tytöille, jotka ovat tyytyväisiä vartaloonsa?”

    10. 10

      IL: Yö-yhtyeen alkuperäisjäsen Jussi Hakulinen sairastui syöpään – sai tietää kamalan uutisen kirjeen välityksellä

    11. Näytä lisää
    1. 1

      Opettaja menetti yllättäen 2000 euron tuet – työttömille kaikessa hiljaisuudessa luotu uusi nettivelvoite raivostuttaa

    2. 2

      Idols-tähti Jani Wickholm laihtui 30 kiloa paleodieetin avulla – ”Voin sanoa olevani ihan eri mies”

    3. 3

      Kemiläisen omakotitalon myynti-ilmoitus leviää internetissä – välittäjä: ”Kyllä siitä laittamalla talon saa”

    4. 4

      Onko tämä vaatetus ok? Tosi-tv-kaunotar Kylie Jenner ohitti K18-säännöt – lähes kaikki näkyy

    5. 5

      Kirsty, 21, joogaa alasti kohottaakseen itsetuntoaan – ”Miksi ihmiset ovat niin vihaisia tytöille, jotka ovat tyytyväisiä vartaloonsa?”

    6. 6

      Anu jätti Suomen 5 vuotta sitten, kun matkalla töistä kotiin teki vain mieli itkeä – näin koko elämä muuttui

    7. 7

      Teija osti vanhan hevosen 300 eurolla – sai pian superarvokkaan yllätysbonuksen

    8. 8

      Gay-kommentti oli liikaa – Ensitreffit alttarilla -Petrin möläytykselle täystyrmäys tv-katsojilta: ”Se tuosta avioliitosta”

    9. 9

      Uuden ammattibarometrin Top 15 -listat: Näillä aloilla työntekijöistä on pulaa – eniten tarjokkaita sihteereiksi

    10. 10

      Entinen Ensitreffit alttarilla -vaimo kauhistui uuden Ensitreffit-parin meiningistä: ”Huolestuttaa kyllä”

    11. Näytä lisää
    1. 1

      Tv-juontajalle kävi äärimmäisen kiusallinen moka minihameessa – suora lähetys yllätti katsojat: Kuvat leviävät

    2. 2

      Ruotsalainen Natasha, 24, hämmästyttää äärimmäisellä muodonmuutoksellaan – vanhemmat eivät hyväksy tyttärensä kauneusleikkauksia

    3. 3

      Emma otti loukkaantuneen eläimen kiinni – ymmärsi vasta sitten: ”Herranjumala, eihän se olekaan mikään koira”

    4. 4

      Kaksi tavallista naista testasi kohutun Lidl-malliston kiinnostavimmat vaatteet – tältä ne oikeasti näyttävät

    5. 5

      Mervi Tapola sairastui syöpään – ei voida parantaa: ”Järkytys oli hirvittävä”

    6. 6

      Jari Sillanpää kertoo nyt IS:lle tiistain tapahtumista – ”Olen todella pahoillani”

    7. 7

      Trafi aloittaa kampanjoinnin ylihuomenna: Kärkenä dieselautoilijalle luvassa oleva 17000 euron verolasku

    8. 8

      Huutokauppakeisari myi 90-luvun muumimukin suurella summalla – löytyykö sinulta tämä harvinaisuus?

    9. 9

      Lähipiiri kertoo Sillanpään huumeidenkäytöstä: ”Jarille arki voi tuntua putoamiselta rotkoon”

    10. 10

      Entisen teinitähden tv-esiintyminen järkytti katsojia – luurangonlaiha laulaja kuin varjo entisestä: huumetesti paljasti karmivan totuuden

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Arkeologit avasivat keskiaikaisen haudan syrjäisellä saarella Englannissa – sisältö oli kaukana ihmisestä

    2. 2

      Playboy-mallin luomurinnat tuottavat hänelle suunnatonta tuskaa – avautui kivuistaan tv-ruudussa: Lääkäriltä simppeli neuvo

    3. 3

      Mopopoikien hurjastelulle järkyttävä loppu – kaksi teiniä lensi ilmassa maahan, toiselle vakava aivovamma

    4. 4

      HS: Vuokralainen kaatoi pastakattilan vedet keittiön lattialle – taloyhtiö vaatii oikeudessa 30 000 euroa

    5. 5

      Kemiläisen omakotitalon myynti-ilmoitus leviää internetissä – välittäjä: ”Kyllä siitä laittamalla talon saa”

    6. Näytä lisää
    1. 1

      Opettaja menetti yllättäen 2000 euron tuet – työttömille kaikessa hiljaisuudessa luotu uusi nettivelvoite raivostuttaa

    2. 2

      Idols-tähti Jani Wickholm laihtui 30 kiloa paleodieetin avulla – ”Voin sanoa olevani ihan eri mies”

    3. 3

      Kemiläisen omakotitalon myynti-ilmoitus leviää internetissä – välittäjä: ”Kyllä siitä laittamalla talon saa”

    4. 4

      Onko tämä vaatetus ok? Tosi-tv-kaunotar Kylie Jenner ohitti K18-säännöt – lähes kaikki näkyy

    5. 5

      Kirsty, 21, joogaa alasti kohottaakseen itsetuntoaan – ”Miksi ihmiset ovat niin vihaisia tytöille, jotka ovat tyytyväisiä vartaloonsa?”

    6. Näytä lisää
    1. 1

      Tv-juontajalle kävi äärimmäisen kiusallinen moka minihameessa – suora lähetys yllätti katsojat: Kuvat leviävät

    2. 2

      Ruotsalainen Natasha, 24, hämmästyttää äärimmäisellä muodonmuutoksellaan – vanhemmat eivät hyväksy tyttärensä kauneusleikkauksia

    3. 3

      Emma otti loukkaantuneen eläimen kiinni – ymmärsi vasta sitten: ”Herranjumala, eihän se olekaan mikään koira”

    4. 4

      Kaksi tavallista naista testasi kohutun Lidl-malliston kiinnostavimmat vaatteet – tältä ne oikeasti näyttävät

    5. 5

      Mervi Tapola sairastui syöpään – ei voida parantaa: ”Järkytys oli hirvittävä”

    6. Näytä lisää