Az összehangolási adó

Más néven: alignment tax, biztonsági adó, safety tax

Az a többletköltség pénzben, időben vagy teljesítményben, amely ahhoz kell, hogy egy MI-rendszer ne csak képes, hanem biztonságos is legyen.

Az összehangolási adó „az a költség, amely abból adódik, hogy ragaszkodunk ahhoz, hogy csak összehangolt MI-t vezessünk be”, ahogy Paul Christiano MI-biztonsági kutató egy 2020-as előadásában megfogalmazta. Ez minden, amibe a biztonság kerül a képes rendszerhez vezető leggyorsabb és legolcsóbb úthoz képest: plusz kutatás és tesztelés, későbbi bevezetés vagy egy modell, amely bizonyos feladatokban kicsit gyengébb.

A fogalom a gyakorlatban is felbukkan. Amikor az OpenAI 2022-ben emberi visszajelzéssel (RLHF) tanította az InstructGPT-t, a modell segítőkészebb és őszintébb lett, de több standard teszten rosszabbul teljesített. A tanulmány ezt „az összehangolási adó egy példájának” nevezte, és módot talált a csökkentésére az eredeti tanítás egy részének bekeverésével. A szerzők azt is elmagyarázták, miért fontos ez: a magas összehangolási adó „arra ösztönöz, hogy nem összehangolt, de képesebb modelleket használjanak”.

Ez a valódi aggály. A cégek versenyében aki megfizeti az adót, azt kockáztatja, hogy lemarad attól, aki nem. Christiano két választ írt le: csökkenteni az adót kutatással, hogy a biztonságos MI legyen egyben a legjobb MI is, vagy gondoskodni arról, hogy mindenki megfizesse, megállapodásokkal és szabályokkal, hogy a biztonság ne legyen versenyhátrány. Az olyan szabályozás, mint az EU mesterségesintelligencia-rendelete (AI Act), a második útra tett kísérlet.