AIdea

Uasmhéadaitheoir na bhfáiscíní páipéir

Cén fáth a bhféadfadh sprioc neamhdhíobhálach a bheith contúirteach do IS chumhachtach?

Cóineasú ionstraimeach
Tráchtas na hortagánachta
Fadhb an ailínithe

Freisin: uasmhéadaitheoir fáiscíní páipéir, paperclip maximizer, clippy, paperclipper

Turgnamh smaointeoireachta faoi IS a shaothraíonn sprioc a fhuaimníonn neamhdhíobhálach go dtí foircinn thubaisteacha.

Iontráil shealadach. Mínigh cad as a dtagann an smaoineamh, cad a chiallaíonn daoine nuair a úsáideann siad é, agus cad a mhaíonn sé agus nach maíonn sé.

Tuilleadh léitheoireachta

Paperclip maximizer (LessWrong wiki) alt · Béarla

Cé atá ag obair air seo

Center for AI Safety Eagraíocht neamhbhrabúis taighde agus forbartha réimse i San Francisco atá ag obair chun rioscaí IS ar scála sochaí a laghdú. D’eagraigh sí an Statement on AI Risk in 2023.
CeSIA (Ionad Francach um Shábháilteacht IS) Meitheal smaointe i bPáras atá ag obair chun mórrioscaí IS a chosc trí thaighde, comhairle beartais agus oideachas. Déanann sé an AI Safety Atlas agus chuir sé tús leis an Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) Eagraíocht taighde neamhbhrabúis i Berkeley ar chabhraigh a cuid oibre le réimse an ailínithe IS a bhunú, agus a éilíonn anois stop domhanda forfheidhmithe ar thógáil na sár-intleachta.
ML4Good Campaí traenála dianacha saor in aisce, go pearsanta, ar shábháilteacht IS, a thosaigh sa Fhrainc agus a reáchtáiltear anois ar fud na hEorpa agus níos faide i gcéin, le conairí do ghairmeacha teicniúla agus beartais.

Déanta ag an bpobal

Cluichí, uirlisí agus taighde ó dhaoine atá ag obair ar shábháilteacht IS. Osclaíonn gach ceann ar a shuíomh féin.

Mind the Interagent Gap What can go wrong when AI agents deal with each other (collusion, miscoordination, failures that cascade), and how much real-world evidence there is for each, linked to actual incidents. A work in progress.
Tuarascáil · Do thaighdeoirí
Peer-Reviewed AI Safety Map An interactive map of peer-reviewed AI safety research, coloured by who did it: the AI safety community, the big AI companies, or other fields such as law, medicine and sociology.
Léarscáil · Do thaighdeoirí
Takeoff: Europe’s Next Move A 15-minute browser game. You’re Europe’s AI envoy, picking a policy every half-year while the US and China race ahead. Your dashboards show how safe the AI looks; how safe it really was comes out at the end.
Cluiche

Uasmhéadaitheoir na bhfáiscíní páipéir

Tuilleadh léitheoireachta

Cé atá ag obair air seo

AIdeas gaolmhara

Déanta ag an bpobal

Comhroinn