Linjausvero

Myös: alignment tax, turvallisuusvero, safety tax

Lisähinta rahassa, ajassa tai suorituskyvyssä siitä, että tekoälyjärjestelmästä tehdään turvallinen eikä pelkästään kyvykäs.

Linjausvero on ”kustannus, joka syntyy siitä, että vaadimme ottamaan käyttöön vain linjattua tekoälyä”, kuten tekoälyturvallisuuden tutkija Paul Christiano asian muotoili esitelmässään vuonna 2020. Se on kaikki, mitä turvallisuus maksaa verrattuna nopeimpaan ja halvimpaan reittiin kyvykkääseen järjestelmään: lisätutkimusta ja -testausta, myöhästynyt julkaisu tai malli, joka suoriutuu joistakin tehtävistä hieman heikommin.

Käsite näkyy käytännössä. Kun OpenAI koulutti InstructGPT:n ihmispalautteella (RLHF) vuonna 2022, mallista tuli avuliaampi ja totuudenmukaisempi, mutta se suoriutui heikommin useissa vakiotesteissä. Artikkeli kutsui tätä ”esimerkiksi linjausverosta” ja löysi tavan pienentää sitä sekoittamalla mukaan osan alkuperäisestä koulutuksesta. Kirjoittajat selittivät myös, miksi asialla on merkitystä: korkea linjausvero ”kannustaa käyttämään malleja, jotka eivät ole linjattuja mutta ovat kyvykkäämpiä”.

Siinä on todellinen huoli. Yritysten välisessä kilpajuoksussa veron maksaja on vaarassa jäädä jälkeen siitä, joka ei maksa. Christiano kuvasi kaksi vastausta: veron pienentäminen tutkimuksella, jotta turvallinen tekoäly on myös paras tekoäly, tai sen varmistaminen sopimuksin ja säännöin, että kaikki maksavat sen, jotta turvallisuus ei ole kilpailuhaitta. EU:n tekoälysäädöksen (AI Act) kaltainen sääntely on yritys jälkimmäiseen.