Suderinimo mokestis

Taip pat: alignment tax, saugumo mokestis, safety tax

Papildoma kaina pinigais, laiku ar našumu už tai, kad DI sistema būtų saugi, o ne tik pajėgi.

Suderinimo mokestis yra „kaina, kurią sumokame reikalaudami diegti tik suderintą DI“, kaip 2020 m. pranešime sakė DI saugumo tyrėjas Paulas Christiano. Tai viskas, ką kainuoja saugumas, palyginti su greičiausiu ir pigiausiu keliu į pajėgią sistemą: papildomi tyrimai ir bandymai, atidėtas pristatymas arba modelis, kuris kai kurias užduotis atlieka šiek tiek prasčiau.

Sąvoka pasitaiko praktikoje. Kai OpenAI 2022 m. apmokė InstructGPT naudodama žmonių grįžtamąjį ryšį (RLHF), modelis tapo paslaugesnis ir teisingesnis, tačiau keliuose standartiniuose testuose pasirodė prasčiau. Straipsnyje tai pavadinta „suderinimo mokesčio pavyzdžiu“ ir rastas būdas jį sumažinti, įmaišant dalį pradinio mokymo. Autoriai taip pat paaiškino, kodėl tai svarbu: didelis suderinimo mokestis „skatina naudoti modelius, kurie nėra suderinti, bet yra pajėgesni“.

Tai ir yra tikrasis rūpestis. Bendrovių lenktynėse tas, kuris moka mokestį, rizikuoja atsilikti nuo to, kuris jo nemoka. Christiano aprašė du atsakymus: sumažinti mokestį tyrimais, kad saugus DI būtų ir geriausias DI, arba susitarimais ir taisyklėmis užtikrinti, kad jį mokėtų visi, kad saugumas nebūtų konkurencinis trūkumas. Tokie reguliavimai kaip ES dirbtinio intelekto aktas (AI Act) yra bandymas eiti antruoju keliu.