AIdea

Kirjaklambrite maksimeerija

Miks võiks kahjutu eesmärk olla võimsale tehisintellektile ohtlik?

Ka: kirjaklambrite maksimeerija, paperclip maximizer, clippy, paperclipper

Mõttekatse tehisintellektist, mis ajab kahjutuna kõlavat eesmärki taga katastroofiliste äärmusteni.

Ajutine kirje. Selgita, kust idee pärineb, mida inimesed selle kasutamisel silmas peavad ja mida see väidab ning mida mitte.

Loe edasi

Paperclip maximizer (LessWrong wiki) artikkel · inglise

Kes sellega tegelevad

Center for AI Safety San Franciscos tegutsev mittetulunduslik uurimis- ja valdkonnaarendusorganisatsioon, mis töötab tehisintellekti ühiskonnamastaabis riskide vähendamise nimel. Ta korraldas 2023. aastal Statement on AI Risk’i.
CeSIA (Prantsuse tehisintellekti ohutuse keskus) Pariisis tegutsev mõttekoda, mis püüab teadustöö, poliitikanõustamise ja hariduse kaudu ennetada tehisintellekti suuri riske. Ta koostab AI Safety Atlast ja algatas Global Call for AI Red Lines’i.
Machine Intelligence Research Institute (MIRI) Berkeleys tegutsev mittetulunduslik uurimisorganisatsioon, mille töö aitas rajada tehisintellekti joondamise valdkonna ja mis nõuab nüüd superintellekti ehitamise ülemaailmset, jõustatud peatamist.
ML4Good Tasuta, intensiivsed kohapealsed tehisintellekti ohutuse laagrid, mis algasid Prantsusmaal ja toimuvad nüüd üle Euroopa ja kaugemalgi, suundadega tehnilise ja poliitikakarjääri jaoks.

Kogukonna tehtud

Mängud, tööriistad ja uurimused inimestelt, kes tegelevad tehisintellekti ohutusega. Iga projekt avaneb oma veebilehel.

Kirjuta oma saadikutele · 2 minutit