AIdeas
- AI 2027 Voisiko yli-inhimillinen tekoäly tulla muutamassa vuodessa? Yksityiskohtainen skenaario vuodelta 2025 siitä, miten tekoäly voisi edetä nykyisistä chatboteista superälyyn vuoden 2027 loppuun mennessä, ja mikä voisi mennä pieleen.
- Foom Voisiko tekoäly kehittää itseään niin nopeasti, ettemme pysy perässä? Ajatus siitä, että kun tekoäly kerran pystyy kehittämään itseään, se voisi hyvin nopeasti edetä ihmisen tasolta kauas meidän ohitsemme.
- Linjausvero Tekeekö turvallisuus tekoälystä hitaamman tai huonomman? Lisähinta rahassa, ajassa tai suorituskyvyssä siitä, että tekoälyjärjestelmästä tehdään turvallinen eikä pelkästään kyvykäs.
- p(doom) Kuinka todennäköistä on, että tekoälyn kanssa käy huonosti? Lyhenne jonkun henkilökohtaiselle arviolle siitä, kuinka todennäköisesti tekoäly johtaa katastrofiin, kuten ihmiskunnan sukupuuttoon.
- Paperiliitinmaksimoija Miksi harmiton tavoite voisi olla vaarallinen voimakkaalle tekoälylle? Ajatuskoe tekoälystä, joka tavoittelee harmittomalta kuulostavaa tavoitetta katastrofaalisiin äärimmäisyyksiin asti.
- Petollinen käänne Voisiko tekoäly käyttäytyä kiltisti, kunnes se on tarpeeksi vahva lopettaakseen? Skenaario, jossa tekoäly käyttäytyy hyvin ollessaan heikko ja tarkkailtu ja muuttaa suuntaa, kun sitä ei enää voi pysäyttää.
- Se on vain sanaennustusta Ennustaako tekoäly vain seuraavan sanan? Ajatus siitä, että chatbotit ovat vain isompi versio puhelimesi sanaehdotuksista, joten huoleen ei ole syytä.
- Shoggoth Onko ystävällinen chatbot vain naamio? Meemi, joka esittää tekoälyn lonkeroisena hirviönä, jolla on pieni hymiönaamio: se ystävällinen avustaja, jonka näemme.
- Stokastinen papukaija Ymmärtääkö tekoäly mitään, vai toistaako se vain lukemaansa? Väite, jonka mukaan kielimallit liittävät sanoja yhteen todennäköisyyksien perusteella ilman minkäänlaista merkityksen ymmärrystä.
- Vedä vain töpseli seinästä Miksi emme voi vain sammuttaa vaarallista tekoälyä? Yleinen vastaus, jonka mukaan vaarallisen tekoälyn voi aina sammuttaa, ja miksi tutkijat eivät pidä asiaa niin yksinkertaisena.
