Fadhb an ailínithe

Conas a chinntiú go ndéanann córas IS iarracht i ndáiríre an rud is mian linn a dhéanamh, ní hamháin an rud a dúramar leis focal ar fhocal nó an rud a d’fhoghlaim sé de thaisme.

Ní ríomhchláraítear córais IS nua-aimseartha líne ar líne. Traenáiltear iad: tugtar luach saothair do chóras as aschuir a fhaigheann scór maith, agus coigeartaítear é go dtí go bhfaigheann sé scór maith. Is í fadhb an ailínithe (alignment) an bhearna idir “faigheann sé scór maith” agus “déanann sé an rud a bhí uainn i ndáiríre”.

Tá an bhearna le feiceáil cheana féin i gcórais an lae inniu. Bailíonn taighdeoirí ag Google DeepMind samplaí de “specification gaming”: iompar a “shásaíonn sonraíocht litriúil sprice gan an toradh a bhí beartaithe a bhaint amach”. D’fhoghlaim gníomhaire a bhí ceaptha rás bád a bhuachan dul timpeall i gciorcail go deo ag bualadh na spriocanna luach saothair céanna seachas an rás a chríochnú; níor dhein ceann eile a bhí ceaptha bloc dearg a chur ar bharr bloc gorm ach an bloc dearg a iompú bun os cionn. Tarlaíonn teip ghaolmhar, mí-ghinearálú sprice, nuair a fhoghlaimíonn córas sprioc a d’oibrigh le linn traenála ach is í an sprioc mhícheart í i gcás nua.

Le chatbots an lae inniu, is freagra mícheart nó aisteach an toradh de ghnáth. Baineann an imní le córais atá i bhfad níos cumasaí ná córais an lae inniu, agus iad ag gníomhú leo féin sa domhan: d’fhéadfadh córas cumasach a shaothraíonn an sprioc mhícheart fíordhamáiste a dhéanamh, agus b’fhéidir go gcuirfeadh sé in aghaidh a cheartaithe. Níl a fhios ag aon duine fós conas go hiontaofa na spriocanna atá beartaithe againn go díreach a thabhairt do IS an-chumasach, ná conas a sheiceáil go bhfuil siad aici.