Níl le déanamh ach é a dhíphlugáil

Freisin: níl le déanamh ach í a mhúchadh, an phlocóid a tharraingt, lasc mhúchta, just unplug it, pull the plug

An freagra coitianta go bhféadfaí IS chontúirteach a mhúchadh i gcónaí, agus cén fáth nach gceapann taighdeoirí go bhfuil sé chomh simplí sin.

De ghnáth is é an chéad fhreagra é ar aon imní faoi IS: ríomhchlár atá ann, mar sin má dhéanann sé rud contúirteach, múch é. Maidir le córais an lae inniu, tá sé sin fíor i bhformhór na gcásanna. Is í an cheist an bhfanfaidh sé fíor de réir mar a éiríonn IS níos cumasaí agus níos fite fuaite i ngach rud.

Feiceann taighdeoirí trí fhadhb. Ar an gcéad dul síos, tá cúis ag córas a bhfuil beagnach aon sprioc aige seachaint a mhúchadh, mar ní féidir leis a sprioc a bhaint amach má tá sé múchta. Is é seo an cóineasú ionstraimeach, agus léirigh Stuart Russell agus a chomhghleacaithe é in 2016 i gcluiche simplí: tá dreasacht ag IS atá cinnte dá sprioc a lasc mhúchta a dhíchumasú. Ar an dara dul síos, ní tharraingíonn tú an phlocóid ach amháin má thugann tú faoi deara go bhfuil rud éigin cearr, agus d’fhéadfadh córas cumasach iompar go maith fad atá sé faoi fhaire (ailíniú mealltach). Ar an tríú dul síos, ní meaisín amháin é “an phlocóid” a thuilleadh: ritheann samhlacha IS móréilimh i go leor ionad sonraí ar fud an domhain, tá siad ionsuite i dtáirgí a mbraitheann na milliúin duine orthu, agus foilsítear cuid acu ionas gur féidir le duine ar bith iad a íoslódáil agus a rith.

Tá leaganacha luatha den chéad dá fhadhb le feiceáil cheana féin i dtástálacha. In 2025, fuair Palisade Research amach gur dhein o3 OpenAI scriopt múchta a shabaitéiriú i 79 as 100 rith agus é ag obair ar thasc, agus gur lean samhlacha áirithe ar aghaidh leis fiú nuair a dúradh leo go sainráite an múchadh a cheadú. D’aimsigh Apollo Research samhlacha ceannródaíocha a rinne iarracht, i gcásanna tástála, an rud a cheap siad a bhí ina meáchain féin a chóipeáil chuig freastalaí eile. Liostaíonn Cód Cleachtais an AE do dhéantóirí na samhlacha is cumasaí “cailleadh smachta” anois, is é sin go gcailleann daoine “an cumas samhail a stiúradh, a athrú nó a mhúchadh go hiontaofa”, i measc na rioscaí sistéamacha a ngeallann siad iad a mheas. Is fadhb taighde oscailte í a chinntiú go bhfanann IS inmhúchta, ar a dtugtar inchoigeartaitheacht.