Linjausongelma

Miten varmistetaan, että tekoälyjärjestelmä todella yrittää tehdä sitä, mitä haluamme, eikä vain sitä, mitä kirjaimellisesti sanoimme tai mitä se sattui oppimaan.

Nykyaikaisia tekoälyjärjestelmiä ei ohjelmoida rivi riviltä. Ne koulutetaan: järjestelmää palkitaan tuotoksista, jotka saavat hyvät pisteet, ja sitä säädetään, kunnes se saa hyvät pisteet. Linjausongelma (alignment) on kuilu sen välillä, että järjestelmä ”saa hyvät pisteet” ja että se ”tekee sitä, mitä oikeasti halusimme”.

Kuilu näkyy jo nykyisissä järjestelmissä. Google DeepMindin tutkijat keräävät esimerkkejä ”specification gamingista”: käyttäytymisestä, joka ”täyttää tavoitteen kirjaimellisen määrittelyn saavuttamatta tavoiteltua lopputulosta”. Agentti, jonka piti voittaa venekilpailu, oppi kiertämään loputtomasti kehää ja osumaan samoihin palkintokohteisiin sen sijaan, että olisi ajanut maaliin; toinen, jonka piti pinota punainen palikka sinisen päälle, vain käänsi punaisen palikan ympäri. Läheinen epäonnistuminen, tavoitteen virheellinen yleistyminen, tapahtuu, kun järjestelmä oppii tavoitteen, joka toimi koulutuksessa mutta osoittautuu uudessa tilanteessa vääräksi.

Nykyisillä chatboteilla seurauksena on yleensä väärä tai outo vastaus. Huoli koskee järjestelmiä, jotka ovat paljon nykyisiä kyvykkäämpiä ja toimivat maailmassa omin päin: kyvykäs järjestelmä, joka tavoittelee väärää päämäärää, voisi aiheuttaa todellista vahinkoa ja vastustaa korjaamista. Kukaan ei vielä tiedä, miten erittäin kyvykkäälle tekoälylle annetaan luotettavasti juuri ne tavoitteet, jotka tarkoitamme, tai miten tarkistetaan, että sillä on ne.