An cháin ailínithe

Freisin: alignment tax, cáin sábháilteachta, safety tax

An costas breise, in airgead, in am nó i bhfeidhmíocht, chun córas IS a dhéanamh sábháilte seachas cumasach amháin.

Is í an cháin ailínithe “an costas a thagann as seasamh ar an IS ailínithe amháin a úsáid”, mar a dúirt an taighdeoir sábháilteachta IS Paul Christiano i gcaint in 2020. Is é atá ann gach rud a chosnaíonn sábháilteacht i gcomparáid leis an mbealach is tapúla agus is saoire chuig córas cumasach: taighde agus tástáil bhreise, seoladh níos déanaí, nó samhail atá beagán níos measa ag tascanna áirithe.

Feictear an téarma i gcleachtas. Nuair a thraenáil OpenAI InstructGPT le haiseolas daonna (RLHF) in 2022, d’éirigh an tsamhail níos cabhraí agus níos fírinní, ach bhí torthaí níos measa aici ar roinnt tástálacha caighdeánacha. Thug an páipéar “sampla de cháin ailínithe” air sin, agus fuair sé bealach chun í a laghdú trí chuid den traenáil bhunaidh a mheascadh isteach. Mhínigh na húdair freisin cén fáth a bhfuil tábhacht leis: tugann cáin ailínithe ard “dreasacht samhlacha a úsáid nach bhfuil ailínithe ach atá níos cumasaí”.

Sin í an fhíorimní. I rás idir comhlachtaí, tá an baol ann go bhfágfar an té a íocann an cháin ar gcúl ag an té nach n-íocann í. Chuir Christiano síos ar dhá fhreagra: an cháin a laghdú trí thaighde, ionas gurb í an IS shábháilte an IS is fearr freisin, nó a chinntiú go n-íocann gach duine í, trí chomhaontuithe agus rialacha, ionas nach míbhuntáiste iomaíochta í an tsábháilteacht. Is iarracht ar an dara rogha é rialú mar Acht an AE um IS (AI Act).