AIdea
It-taxxa tal-allinjament
Li tagħmel l-IA sikura jagħmilha aktar bil-mod jew agħar?
Ukoll: alignment tax, taxxa tas-sikurezza, safety tax
L-ispiża żejda, fi flus, ħin jew prestazzjoni, biex sistema tal-IA ssir sikura u mhux biss kapaċi.
It-taxxa tal-allinjament hija “l-ispiża li ġġarrab meta tinsisti li tuża biss IA allinjata”, kif qalha r-riċerkatur tas-sikurezza tal-IA Paul Christiano f’taħdita tal-2020. Hija dak kollu li tiswa s-sikurezza meta mqabbla mal-aktar triq mgħaġġla u rħisa lejn sistema kapaċi: riċerka u ttestjar żejda, tnedija mdewma, jew mudell li jagħmel ftit agħar f’xi kompiti.
It-terminu jidher fil-prattika. Meta OpenAI ħarrġet lil InstructGPT b’feedback mill-bniedem (RLHF) fl-2022, il-mudell sar aktar utli u aktar veritier, iżda mar agħar f’diversi testijiet standard. Id-dokument sejjaħ dan “eżempju ta’ taxxa tal-allinjament”, u sab mod kif inaqqasha billi jħallat parti mit-taħriġ oriġinali. L-awturi spjegaw ukoll għaliex dan huwa importanti: taxxa tal-allinjament għolja “tħeġġeġ l-użu ta’ mudelli li mhumiex allinjati iżda huma aktar kapaċi”.
Dak huwa l-veru tħassib. F’tellieqa bejn kumpaniji, min iħallas it-taxxa jirriskja li jibqa’ lura minn min ma jħallasx. Christiano ddeskriva żewġ tweġibiet: tnaqqas it-taxxa permezz tar-riċerka, biex l-IA sikura tkun ukoll l-aħjar IA, jew tiżgura li kulħadd iħallasha, permezz ta’ ftehimiet u regoli, biex is-sikurezza ma tkunx żvantaġġ kompetittiv. Regolamentazzjoni bħall-Att tal-UE dwar l-IA (AI Act) hija tentattiv tat-tieni.
