AIdea
Foom
An bhféadfadh IS feabhas a chur uirthi féin chomh tapa sin nach mbeimis in ann coinneáil suas léi?
Freisin: pléascadh faisnéise, éirí crua, éirí tapa, an uathúlacht, intelligence explosion, hard takeoff
An smaoineamh, nuair a bheidh IS in ann feabhas a chur uirthi féin, go bhféadfadh sí dul go han-tapa ó leibhéal an duine go dtí i bhfad níos airde ná sinn.
Is é “foom” fuaim ruda atá ag éirí go han-tapa. Ba é an t-ainm é ar “phléascadh faisnéise” tapa i ndíospóireacht ar líne in 2008 idir an teoiriceoir IS Eliezer Yudkowsky agus an t-eacnamaí Robin Hanson, faoi “cé acu an mbeidh IS a bhfuil faisnéis ghinearálta acu in ann a gcumais féin a fheabhsú go han-tapa”. Tá an bunsmaoineamh níos sine: in 1965, d’áitigh an staitisteoir I. J. Good go bhféadfadh meaisín atá níos cliste ná sinn meaisíní níos fearr fós a dhearadh, rud a spreagfadh “pléascadh faisnéise”.
Is lúb aiseolais an mheicníocht. Má éiríonn IS go maith ag obair na tógála IS, tagann gach feabhsú níos tapúla ná an ceann roimhe. Úsáideann an AI Safety Atlas “foom” mar chomhchiallach le “éirí tapa” agus “éirí crua”. Is é an dearcadh contrártha “éirí mall”, ina mbailíonn an dul chun cinn freisin, ach ar bhealach níos céimiúla; de réir meastacháin amháin a luann an Atlas, fós 10 go 100 uair níos tapúla ná an Réabhlóid Thionsclaíoch.
Tá níos mó tábhachta leis cé acu a tharlóidh ná mar a cheapfá. Mar a deir an Atlas, is minic a bhaineann an t-easaontas leis an gceist an mbeadh fadhbanna “inbhraite agus inleigheasta in am”. Is beag spás a fhágann éirí tapa chun botún a aithint agus a cheartú. Cuireann cásanna ar nós AI 2027 IS a dhéanann taighde IS i gcroílár a scéil, agus luann Cód Cleachtais an AE do na samhlacha is cumasaí “féinfheabhsú” IS i measc na mbealaí a bhféadfadh daoine smacht a chailleadh.
