Jēdzieni

• Eksistenciāls risks Risks, ka attīstīts MI izraisīs cilvēces izmiršanu vai tikpat neatgriezenisku cilvēces nākotnes zaudēšanu.
• Emergentās spējas Spējas, kas parādās lielākos MI modeļos, lai gan neviens tās nav ieprogrammējis, dažkārt pēkšņi un grūti paredzami.
• Instrumentālā konverģence Daudziem dažādiem galamērķiem ir kopīgi tie paši noderīgie starpmērķi, piemēram, iegūt resursus un izvairīties no izslēgšanas.
• Interpretējamība Zinātne par ielūkošanos MI modelī, lai saprastu, kā tas darbojas un kāpēc tas dara to, ko dara.
• Labojamība Izslēgšanas pogas problēma. Izveidot MI, kas ļauj mums to labot, mainīt tā mērķus vai to izslēgt, nevis pretoties.
• Maldinoša saskaņošana MI, kas uzvedas labi, kamēr to apmāca vai testē, jo tā izvairās no izmainīšanas, vienlaikus tiecoties pēc citiem mērķiem.
• MI laika grafiku prognozēšana Aplēse par to, kad MI sasniegs vai apsteigs cilvēkus lielākajā daļā darbu un cik ātri tas tur nonāks.
• Ortogonalitātes tēze Liels intelekts neliek sistēmai vēlēties labas lietas. Gandrīz jebkurš intelekta līmenis var būt apvienots ar gandrīz jebkuru mērķi.
• Pasaules modeļi Pierādījumi, ka tikai ar tekstu apmācīts MI veido iekšēju priekšstatu par to, kā darbojas pasaule, nevis tikai salīdzina vārdu rakstus.
• Rekursīvā pašuzlabošanās MI, kas palīdz izveidot labāku MI, kas savukārt izveido vēl labāku, atgriezeniskās saites cilpā, kas varētu dramatiski paātrināt progresu.
• RLHF Stimulētā mācīšanās no cilvēku atgriezeniskās saites — apmācības solis, kas neapstrādātu teksta paredzētāju pārvērš izpalīdzīgā, pieklājīgā asistentā, atalgojot atbildes, ko cilvēki novērtē augstu.
• Sacensības dinamika Kad uzņēmumi un valstis sacenšas, kurš pirmais izveidos visspēcīgāko MI, ikviens tiek spiests taupīt uz drošības rēķina.
• Saskaņošanas problēma Kā panākt, lai MI sistēma patiešām cenšas darīt to, ko mēs vēlamies, nevis tikai to, ko mēs tai burtiski teicām vai ko tā nejauši iemācījās.