Käsitteet

• Eksistentiaalinen riski Riski, että kehittynyt tekoäly aiheuttaa ihmiskunnan sukupuuton tai yhtä pysyvän ihmiskunnan tulevaisuuden menetyksen.
• Emergentit kyvyt Kykyjä, jotka ilmaantuvat suurempiin tekoälymalleihin ilman, että kukaan on ohjelmoinut niitä, joskus äkillisesti ja vaikeasti ennakoitavasti.
• Harhaanjohtava linjaus Tekoäly, joka käyttäytyy hyvin, kun sitä koulutetaan tai testataan, koska se välttää näin muuttamisen, ja tavoittelee samalla muita päämääriä.
• Instrumentaalinen konvergenssi Monilla erilaisilla lopullisilla päämäärillä on samat hyödylliset välitavoitteet, kuten resurssien hankkiminen ja sammuttamisen välttäminen.
• Kilpajuoksun dynamiikka Kun yritykset ja maat kilpailevat siitä, kuka rakentaa voimakkaimman tekoälyn ensimmäisenä, jokainen joutuu paineeseen tinkiä turvallisuudesta.
• Korjattavuus Sammutuskytkimen ongelma. Sellaisen tekoälyn rakentaminen, joka antaa meidän korjata sitä, muuttaa sen tavoitteita tai sammuttaa sen vastustamisen sijaan.
• Linjausongelma Miten varmistetaan, että tekoälyjärjestelmä todella yrittää tehdä sitä, mitä haluamme, eikä vain sitä, mitä kirjaimellisesti sanoimme tai mitä se sattui oppimaan.
• Maailmanmallit Näyttöä siitä, että pelkällä tekstillä koulutettu tekoäly rakentaa sisäisen kuvan siitä, miten maailma toimii, eikä vain sovita sanamalleja yhteen.
• Ortogonaalisuusteesi Hyvin älykkääksi tuleminen ei saa järjestelmää haluamaan hyviä asioita. Lähes mikä tahansa älykkyyden taso voi yhdistyä lähes mihin tahansa tavoitteeseen.
• Rekursiivinen itsensä kehittäminen Tekoäly, joka auttaa rakentamaan parempaa tekoälyä, joka rakentaa vielä parempaa, takaisinkytkennässä, joka voisi kiihdyttää kehitystä dramaattisesti.
• RLHF Vahvistusoppiminen ihmispalautteesta, koulutusvaihe, joka tekee raa’asta tekstinennustajasta avuliaan ja kohteliaan avustajan palkitsemalla vastaukset, jotka ihmiset arvioivat korkealle.
• Tekoälyn aikataulujen ennustaminen Arvio siitä, milloin tekoäly saavuttaa tai ohittaa ihmiset useimmissa töissä ja kuinka nopeasti se pääsee sinne.
• Tulkittavuus Tiede, joka kurkistaa tekoälymallin sisään ymmärtääkseen, miten se toimii ja miksi se tekee mitä tekee.