Porez na usklađenost

Također: alignment tax, porez na sigurnost, safety tax

Dodatni trošak, u novcu, vremenu ili performansama, da sustav UI bude siguran, a ne samo sposoban.

Porez na usklađenost jest „trošak koji nastaje kad inzistiramo na tome da uvodimo samo usklađenu UI”, kako je to u predavanju 2020. rekao istraživač sigurnosti UI-ja Paul Christiano. To je sve što sigurnost stoji u usporedbi s najbržim i najjeftinijim putem do sposobnog sustava: dodatna istraživanja i testovi, odgođeno predstavljanje ili model koji je u nekim zadacima nešto lošiji.

Pojam se pojavljuje u praksi. Kad je OpenAI 2022. trenirao InstructGPT uz ljudske povratne informacije (RLHF), model je postao korisniji i istinitiji, ali je lošije prošao na nekoliko standardnih testova. Rad je to nazvao „primjerom poreza na usklađenost” i pronašao način da ga smanji miješanjem dijela izvornog treniranja. Autori su objasnili i zašto je to važno: visok porez na usklađenost „potiče upotrebu modela koji nisu usklađeni, ali su sposobniji”.

To je prava zabrinutost. U utrci među tvrtkama onaj tko plaća porez riskira da zaostane za onim tko ga ne plaća. Christiano je opisao dva odgovora: smanjiti porez istraživanjem, kako bi sigurna UI bila i najbolja UI, ili osigurati da ga svi plaćaju, sporazumima i pravilima, kako sigurnost ne bi bila konkurentski nedostatak. Regulacija poput Akta EU-a o umjetnoj inteligenciji (AI Act) pokušaj je ovog drugog.