Inchoigeartaitheacht

Fadhb na lasc mhúchta. IS a thógáil a ligeann dúinn í a cheartú, a spriocanna a athrú nó í a mhúchadh, seachas cur ina choinne.

Tá córas IS “inchoigeartaithe” má “chomhoibríonn sé leis an rud a mheasann a chruthaitheoirí a bheith ina idirghabháil cheartaitheach”: a spriocanna a athrú, é a athoiliúint nó é a mhúchadh. Tagann an téarma ó pháipéar in 2014 le taighdeoirí ag MIRI agus ag Future of Humanity Institute Oxford. Bhí siad ag lorg dearaidh a ligfeadh gníomhaire a mhúchadh le cnaipe, gan cúiseanna a thabhairt dó cosc a chur ar dhuine ar bith é a bhrú (nó é a bhrú é féin), agus fuair siad amach nár oibrigh aon cheann de na moltaí a scrúdaigh siad go hiomlán. Tá an fhadhb oscailte fós.

Cén fáth a gcuirfeadh IS ina choinne ar chor ar bith? Ní le heagla. Mar a léirigh Stuart Russell agus a chomhghleacaithe le cluiche simplí in 2016, tá cúis ag gníomhaire atá cinnte dá sprioc a lasc mhúchta a dhíchumasú, mar ciallaíonn a bheith múchta teip ar an sprioc. Is é an bealach amach a mholann siad IS atá éiginnte faoina bhfuil uainn agus a chaitheann lenár gcinneadh í a mhúchadh mar fhaisnéis faoi sin.

Tá sé seo le feiceáil i dtástálacha anois. In 2025, fuair Palisade Research amach gur dhein o3 OpenAI scriopt múchta a shabaitéiriú i 79 de na chéad 100 rith agus é ag obair ar thasc, agus lean samhlacha áirithe ar aghaidh fiú nuair a dúradh leo go sainráite an múchadh a cheadú. Ainmníonn Cód Cleachtais an AE do na samhlacha is cumasaí “cailleadh smachta” mar riosca sistéamach: “daoine ag cailleadh an chumais samhail a stiúradh, a athrú nó a mhúchadh go hiontaofa”.