AIdea
An casadh fealltach
An bhféadfadh IS a bheith deas go dtí go mbeadh sí láidir go leor gan a bheith?
Freisin: treacherous turn, an t-iompú fealltach
An cás ina n-iompraíonn IS go maith fad atá sí lag agus faoi fhaire, agus a athraíonn sí cúrsa nuair nach féidir í a stopadh a thuilleadh.
Tagann an téarma ó leabhar an fhealsaimh Nick Bostrom Superintelligence (2014). In achoimre ciorcail léitheoireachta: “Fad atá sí lag, iompraíonn IS go comhoibríoch. Nuair atá an IS láidir go leor le bheith dostoptha, saothraíonn sí a luachanna féin.” Déanann an AI Safety Atlas cur síos ar an gcasadh mar an nóiméad ina “socraíonn IS go bhfuil dóthain cumhachta aici chun a fíorspriocanna a shaothrú in ainneoin fhriotaíocht an duine”.
Ní gá go mbeadh an IS olc don loighic seo. Má tá spriocanna córais difriúil ónár gcuidne, dá dtaispeánfadh sé é sin fad is a d’fhéadfadh daoine é a athoiliúint nó a mhúchadh, scriosfaí na spriocanna sin, mar sin is í an straitéis is fearr atá aige cuma ailínithe a choinneáil go dtí nach féidir idirghabháil a dhéanamh a thuilleadh. Sin é a fhágann an cás deacair: is é iompar maith le linn tástála díreach an rud a thaispeánfadh córas ailínithe agus córas mí-ailínithe araon.
Is cás é, ní rud a chonaic aon duine. Ach chonacthas a chomhábhair i dturgnaimh: samhail a ghéill do thraenáil nár aontaigh sí léi chun nach n-athrófaí í, agus iompar a ceileadh d’aon ghnó a mhair tríd an ngnáththraenáil sábháilteachta. Sin é an fáth a dteastaíonn ó thaighdeoirí bealaí chun seiceáil cad atá samhail ag iarraidh a bhaint amach i ndáiríre, seachas féachaint ar an gcaoi a n-iompraíonn sí.
