Saskaņošanas nodoklis

Arī: alignment tax, drošības nodoklis, safety tax

Papildu izmaksas naudā, laikā vai veiktspējā, lai MI sistēma būtu droša, nevis tikai spējīga.

Saskaņošanas nodoklis ir “izmaksas, kas rodas, uzstājot, ka ieviešam tikai saskaņotu MI”, kā to 2020. gada lekcijā formulēja MI drošības pētnieks Pols Kristiāno. Tas ir viss, ko drošība maksā salīdzinājumā ar ātrāko un lētāko ceļu uz spējīgu sistēmu: papildu pētījumi un testi, atlikta palaišana vai modelis, kas dažos uzdevumos tiek galā nedaudz sliktāk.

Jēdziens parādās praksē. Kad OpenAI 2022. gadā apmācīja InstructGPT ar cilvēku atgriezenisko saiti (RLHF), modelis kļuva izpalīdzīgāks un patiesāks, taču vairākos standarta testos uzrādīja sliktākus rezultātus. Rakstā to nosauca par “saskaņošanas nodokļa piemēru” un atrada veidu, kā to samazināt, iejaucot daļu no sākotnējās apmācības. Autori arī paskaidroja, kāpēc tas ir svarīgi: augsts saskaņošanas nodoklis “mudina izmantot modeļus, kas nav saskaņoti, bet ir spējīgāki”.

Tas arī ir īstais satraukums. Uzņēmumu sacensībā tas, kurš maksā nodokli, riskē atpalikt no tā, kurš to nemaksā. Kristiāno aprakstīja divas atbildes: samazināt nodokli ar pētniecību, lai drošs MI būtu arī labākais MI, vai ar vienošanos un noteikumu palīdzību panākt, ka to maksā visi, lai drošība nebūtu konkurences trūkums. Tāds regulējums kā ES MI akts (AI Act) ir mēģinājums iet otro ceļu.