Joondamismaks

Ka: alignment tax, ohutusmaks, safety tax

Lisakulu rahas, ajas või jõudluses, et muuta tehisintellekti süsteem ohutuks, mitte ainult võimekaks.

Joondamismaks on „kulu, mis tekib siis, kui nõuame ainult joondatud tehisintellekti kasutuselevõttu“, nagu tehisintellekti ohutuse uurija Paul Christiano 2020. aasta ettekandes ütles. See on kõik, mida ohutus maksab võrreldes kiireima ja odavaima teega võimeka süsteemini: täiendav uurimistöö ja testimine, hilisem väljalase või mudel, mis saab mõne ülesandega veidi halvemini hakkama.

Mõiste tuleb ette ka praktikas. Kui OpenAI treenis 2022. aastal InstructGPT-d inimeste tagasiside abil (RLHF), muutus mudel abivalmimaks ja tõesemaks, kuid tulemused mitmes standardtestis halvenesid. Artikkel nimetas seda „joondamismaksu näiteks“ ja leidis viisi seda vähendada, segades sisse osa algsest treeningust. Autorid selgitasid ka, miks see on oluline: kõrge joondamismaks „soodustab selliste mudelite kasutamist, mis ei ole joondatud, kuid on võimekamad“.

See ongi tegelik mure. Ettevõtete võidujooksus riskib maksu maksja maha jääda sellest, kes seda ei maksa. Christiano kirjeldas kahte vastust: vähendada maksu uurimistöö abil, et ohutu tehisintellekt oleks ühtlasi parim tehisintellekt, või tagada lepingute ja reeglitega, et kõik seda maksavad, nii et ohutus ei oleks konkurentsieelise kaotus. ELi tehisintellekti määruse (AI Act) taoline regulatsioon on katse teha just viimast.