Digitoday

Valikko

Kuinka tekoälyn saa pelkäämään? Elon Musk rahoittaa suomalaishanketta

Inhimillisten arvojen ja reaktioiden opettaminen tekoälylle on konstikasta puuhaa.
Tekoälytutkimus etenee valtavaa vauhtia. Yksi huolista kehittyneen tekoälyn suhteen on se, että ilman ihmisen valvontaa toimivan tekoälyn pitäisi kyetä itse huolehtimaan siitä, että sen käytös on moraalisesti hyväksyttävää.

Tähän keskittyy Kaj Sotalan ja tämän nimettömänä pysyttelevän yhteistyökumppanin projekti, jota Future of Life -instituutti tukee Elon Muskin lahjoittamilla rahoilla 20 000 dollarin edestä.

– Tässä on se ongelma, että moraalisiin kysymyksiin liittyy sellaisia käsitteitä kuin vaikkapa ihmisoikeudet, joita ei pysty suoraan määrittelemään formaalisti, vaan koneelle pitäisi jotenkin opettaa ne, Sotala selvittää.

Sotalan mukaan on epäselvää, missä määrin moraalisten arvojen oppiminen eroaa käsitteiden oppimisesta yleensä. Ei ole tietoa siitä, voiko arvojen opettamiseen käyttää samaa oppimisalgoritmia, jolla koneelle opetetaan kaikki muukin.

– Moraalipsykologiassa on pohdittu esimerkiksi sitä, onko ihmisen taipumus kokea inhoa sellainen asia, joka vaikuttaa moraalisiin arvoihin, Sotala kertoo.

Tämä tekisi arvoista monimutkaisempia asioita oppimisen kannalta kuin monet muunlaiset käsitteet.

– Herää kysymys, pitäisikö tekoälylle rakentaa vastine inhon tunteesta, että se oppisi moraalin samalla tapaa kuin ihmiset. Ja jos pitäisi, niin miten vahva? Sotala pohtii.

Tunteen opettaminen koneelle ei ole aivan suoraviivaista.

– Esimerkiksi yksi ajatus tekoälyn tunnekysymyksissä on niin sanottu embodiment-kysymys. Jos ajatellaan vaikkapa pelon tunnetta, niin se on ihmisessä seurausta vaaran havaitsemisesta ja se johtaa fysiologisiin reaktioihin. Adrenaliinia erittyy, joka valmistaa kehon pakenemaan tai taistelemaan. Tarvitseeko tekoäly vaikkapa tällaisia kytkentöjä mallintavan kehon vastineen, jotta voidaan toteuttaa koneelle inhimillinen pelontunne? Sotala kysyy.

Opintomateriaalia oikeuden pöytäkirjoista

Projektin ensimmäinen tavoite on tehdä perinpohjainen kirjallisuuskatsaus aiheesta tehdystä tutkimuksesta, jotta ymmärrettäisiin paremmin, mitä kaikkea pitää ottaa huomioon teoreettisella tasolla. Tämä saadaan toteutettua alkuvaiheen rahoituksella puolessa vuodessa.

– Haluamme selvittää, miten todennäköisesti tekoälyt edes voi saada hahmottamaan maailmaa samalla tavalla kuin ihmiset, Sotala linjaa.

Alun perin projektiin haettiin 100 000 dollarin tukea, jolla olisi voitu palkata Sotala täyspäiväisesti ja pari avustajaa osa-aikaisesti vuodeksi. Tavoitteisiin kuului myös kaksi lisävaihetta.

Katsauksen jälkeen toisena tavoitteena on tutkia, voiko deep learning (tekoälytutkimuksen sanastoa, joka viittaa jättimäisten datamäärien syöttämiseen tekoälyn oppimisen tietopohjaksi) -metodeja hyväksikäyttäen saada tekoälyn oppimaan moraalisia käsitteitä sopivasta lähtödatasta.

– Sopivan datasetin luominen olisi suurimpia tehtäviä tässä vaiheessa. Olemme pyöritelleet alustavia ideoita esimerkiksi oikeusjuttujen pöytäkirjoista, mutta meillä ei vielä ole konkreettisesti määriteltyä lopputulosta tästä.

Kolmannessa vaiheessa tutkijat aikovat tutkia psykologiaa ja koneoppimista yhdistävää hypoteesiaan siitä, miten ihmiset oppivat arvonsa ja miten ne toimivat algoritmisella tasolla. Tähän riittävät ainakin osittain rahkeet nykyisen rahoituksen puitteissa.

Sotalan mukaan ehdotuksia tutkinut lautakunta piti tutkimussuunnitelmaa ja ideoita hyvänä. Tavoitteiden kunnianhimoisuus, sekä tutkijoiden nuori ikä ja alkuvaiheissaan olevat urat, johtivat kuitenkin siihen, että täyden rahoituksen sijaan projektille myönnettiin "siemenrahoitus". Ainakin teoriassa on mahdollista, että projektia tuetaan suuremmalla summalla, jos lopputulokset ovat lupaavia.

Musk lahjoitti erilaisiin tekoälyprojekteihin peräti 7 miljoonaa dollaria. Täyden listan tukeen oikeutetuista löydät täältä.

  • Tekoäly

Kommentit

    Näytä lisää

    Näitä luetaan!
    1. 1

      Suomessa asuva mies sai puhelimeensa järkyttävän viestin 6 500 kilometrin päästä – ”Ammuin juuri kihlattusi”

    2. 2

      Kimi Räikkönen tapasi Nicole Kidmanin – ”Jäämiehelle” tyypillinen reaktio herättää hilpeyttä maailmalla

    3. 3

      Yksi virhe voi estää sisäilmaongelmien löytämisen – onko sinulla nämä oireet?

    4. 4

      Valtatie 13:n varrelta löytyi ruumis – poliisi epäilee tappoa

    5. 5

      Helppo testi makuuhuoneessa paljastaa, onko kotisi sisäilma kunnossa

    6. 6

      25-vuotias mies katosi Indonesiassa – löytyi valtavan pytonin vatsasta

    7. 7

      Povekas reality-tähti narahti ”huiputtamisesta” – nolo somemoka paljasti totuuden tähden kadehditusta kodista

    8. 8

      Nuoripari luuli ostaneensa unelmiensa hirsitalon – pian alkoi paljastua, mitä rakennustyömaalla oli oikeasti tapahtunut

    9. 9

      Nuori nainen hankki uuden ökyauton – huomaamaton yksityiskohta paljasti kiusallinen huijauksen, internet villiintyi

    10. 10

      Eva Wahlström hermostui Supertähtien kuvauksissa Teemu Selänteeseen: ”Hänen mielestään naiset eivät voi pärjätä urheilussa...”

    11. Näytä lisää
    1. 1

      25-vuotias mies piinasi naapurin naista kuukausien ajan – kunnes oven takana odotti yllätys

    2. 2

      Jari Sarasvuolle tehty operaatio epäonnistui: syöminen sietämätöntä ja puhe epäselvää – ”SM-bondage-häkkyrä laukesi suussani”

    3. 3

      Nuoripari luuli ostaneensa unelmiensa hirsitalon – pian alkoi paljastua, mitä rakennustyömaalla oli oikeasti tapahtunut

    4. 4

      Arjen kuluttama yksinhuoltajaäiti Ronja, 41, purskahti itkuun katsottuaan peiliin tv-ohjelman muutoksen jälkeen – katso kuvat!

    5. 5

      Palkka duunissa 5300 e/kk – miksi tämä koulutus ei kiinnosta?

    6. 6

      Helppo testi makuuhuoneessa paljastaa, onko kotisi sisäilma kunnossa

    7. 7

      Yksi varomaton lause Dr. Phil -ohjelmassa teki Daniellesta, 14, megajulkkiksen – ”Hän on varmasti miljonääri vuoden lopussa”

    8. 8

      Osaatko ratkaista japanilaisinsinöörien ”helpon” matematiikkapähkinän? Alle 60 prosenttia vastasi oikein

    9. 9

      Einin keikka keskeytyi äkillisesti Saariselällä – vietti yön vessan lattialla: ”Silloin mua vietiin... ”

    10. 10

      Povekas reality-tähti narahti ”huiputtamisesta” – nolo somemoka paljasti totuuden tähden kadehditusta kodista

    11. Näytä lisää
    1. 1

      Merkel tyrmistyi ”hävyttömästä” tempusta – Trump ojensi 350 miljardin laskun

    2. 2

      Bikinipöksyt kokevat tänä kesänä muodonmuutoksen – pukisitko itse yllesi?

    3. 3

      Nuoren naisen asunnosta levisi karmea haju 48 asunnon taloyhtiöön – löydön puhdistamiseen tarvittiin siirtolava

    4. 4

      Teinityttö tervehti tuntematonta miestä koulumatkalla – siitä käynnistyi painajainen

    5. 5

      Tiesitkö? Helsingissä asuu yksi kaikkein aikojen menestyneimmän heviyhtyeen kitaristi – rakastui suomalaiseen Mariaan, elää nyt lapsiperheen arkea Suomessa

    6. 6

      IS seurasi tapahtumien etenemistä: Terrori-isku parlamentin luona Lontoossa – 4 kuoli

    7. 7

      Teinityttö julkaisi hervottoman kuvaparin äidistään kostean illanvieton jälkeen – kiusallinen kuva villitsee somessa: ”Lauantai ja sunnuntai”

    8. 8

      Vihreä Nissan lepää kyljellään Tornion keskustassa – poliisi kertoo, miksi ei puutu tapaukseen

    9. 9

      Albinismia sairastavat kaksostytöt ihastuttavat malleina – poseeraavat nyt yhdessä tumman isosiskonsa kanssa

    10. 10

      Pilvi Hämäläiselle kävi hillitön asumoka – saapui Jussi-gaalaan Aina Inkerin polvisukissa: ”En muistanut, että mulla on halkio”

    11. Näytä lisää
    Näitä luetaan!
    1. 1

      Suomessa asuva mies sai puhelimeensa järkyttävän viestin 6 500 kilometrin päästä – ”Ammuin juuri kihlattusi”

    2. 2

      Kimi Räikkönen tapasi Nicole Kidmanin – ”Jäämiehelle” tyypillinen reaktio herättää hilpeyttä maailmalla

    3. 3

      Yksi virhe voi estää sisäilmaongelmien löytämisen – onko sinulla nämä oireet?

    4. 4

      Valtatie 13:n varrelta löytyi ruumis – poliisi epäilee tappoa

    5. 5

      Helppo testi makuuhuoneessa paljastaa, onko kotisi sisäilma kunnossa

    6. Näytä lisää
    1. 1

      25-vuotias mies piinasi naapurin naista kuukausien ajan – kunnes oven takana odotti yllätys

    2. 2

      Jari Sarasvuolle tehty operaatio epäonnistui: syöminen sietämätöntä ja puhe epäselvää – ”SM-bondage-häkkyrä laukesi suussani”

    3. 3

      Nuoripari luuli ostaneensa unelmiensa hirsitalon – pian alkoi paljastua, mitä rakennustyömaalla oli oikeasti tapahtunut

    4. 4

      Arjen kuluttama yksinhuoltajaäiti Ronja, 41, purskahti itkuun katsottuaan peiliin tv-ohjelman muutoksen jälkeen – katso kuvat!

    5. 5

      Palkka duunissa 5300 e/kk – miksi tämä koulutus ei kiinnosta?

    6. Näytä lisää
    1. 1

      Merkel tyrmistyi ”hävyttömästä” tempusta – Trump ojensi 350 miljardin laskun

    2. 2

      Bikinipöksyt kokevat tänä kesänä muodonmuutoksen – pukisitko itse yllesi?

    3. 3

      Nuoren naisen asunnosta levisi karmea haju 48 asunnon taloyhtiöön – löydön puhdistamiseen tarvittiin siirtolava

    4. 4

      Teinityttö tervehti tuntematonta miestä koulumatkalla – siitä käynnistyi painajainen

    5. 5

      Tiesitkö? Helsingissä asuu yksi kaikkein aikojen menestyneimmän heviyhtyeen kitaristi – rakastui suomalaiseen Mariaan, elää nyt lapsiperheen arkea Suomessa

    6. Näytä lisää