AIdea
Pearóid stocastach
An dtuigeann IS rud ar bith, nó an ndéanann sí athrá ar a bhfuil léite aici?
- Scríbhneoirí agus iriseoirí
- Daltaí agus mic léinn
- Múinteoirí
Freisin: pearóidí stocastacha, stochastic parrot, stochastic parrots
An maíomh go gcuireann samhlacha teanga focail le chéile de réir dóchúlachta, gan aon tuiscint ar an mbrí.
Tagann an frása ó pháipéar a scríobh an teangeolaí Emily M. Bender, an taighdeoir IS Timnit Gebru agus a gcomhghleacaithe in 2021. Chuir siad síos ar shamhail teanga mar chóras a fhuaileann le chéile seichimh focal a chonaic sí ina sonraí traenála, de réir na dóchúlachtaí a dtagann siad le chéile, “gan aon tagairt don bhrí”. Ciallaíonn “stocastach” faoi stiúir na seansaíochta; déanann pearóidí athrá ar fhocail nach dtuigeann siad.
Bhain príomhrabhaidh an pháipéir le díobhálacha atá fíor inniu: costas comhshaoil agus airgeadais samhlacha atá ag éirí níos mó i gcónaí, sonraí traenála ollmhóra nár scrúdaíodh a chuireann claontacht isteach iontu, agus an baol go gcuirfeadh daoine muinín i dtéacs líofa nach bhfuil aon rud taobh thiar de. Tá na hábhair imní sin fós bailí. Fuair an frása féin a shaol féin, mar ghearrfhoirm do “ní thuigeann sé faic i ndáiríre”, agus is minic a úsáidtear é chun a mhaíomh go bhfuil na córais seo níos lú cumais ná mar a fheictear.
Ar an gceist chúng sin, tá an fhianaise tar éis bogadh. Tá léirithe inmheánacha den domhan aimsithe ag taighdeoirí a d’fhéach taobh istigh de shamhlacha: de chlár cluiche nár taispeánadh riamh don tsamhail, den áit a bhfuil áiteanna agus cathain a tharla imeachtaí, agus de chéimeanna idirmheánacha réasúnaíochta, ar nós “tá Dallas i Texas” ar an mbealach chuig “is í Austin an phríomhchathair”. Tagann an AI Safety Atlas ar an gconclúid go gcomhbhrúnn samhlacha an méid a fhoghlaimíonn siad i rud éigin cosúil le samhlacha den domhan, cé nach go cothrom. Is ceist sainmhínithe í i bpáirt an áirítear é sin mar “thuiscint”. Ó thaobh na sábháilteachta de, is é an rud atá tábhachtach gur féidir leis na córais seo níos mó a dhéanamh, agus ar bhealaí níos neamhthuartha, ná mar a thugann íomhá na pearóide le fios.
