Concepten

• AI-tijdlijnen voorspellen Inschatten wanneer AI mensen bij het meeste werk evenaart of inhaalt, en hoe snel ze daar komt.
• Corrigeerbaarheid Het uitknopprobleem. AI bouwen die ons toestaat haar te corrigeren, haar doelen te veranderen of haar uit te zetten, in plaats van zich te verzetten.
• Emergente vermogens Vaardigheden die in grotere AI-modellen opduiken zonder dat iemand ze heeft geprogrammeerd, soms abrupt en moeilijk vooraf te voorspellen.
• Existentieel risico Het risico dat geavanceerde AI het uitsterven van de mensheid veroorzaakt, of een even blijvend verlies van de toekomst van de mensheid.
• Het afstemmingsprobleem Hoe je ervoor zorgt dat een AI-systeem echt probeert te doen wat we willen, en niet alleen wat we het letterlijk hebben gezegd of wat het toevallig heeft geleerd.
• Instrumentele convergentie Veel verschillende einddoelen delen dezelfde nuttige tussendoelen, zoals middelen verwerven en voorkomen dat je wordt uitgeschakeld.
• Interpreteerbaarheid De wetenschap van in een AI-model kijken om te begrijpen hoe het werkt en waarom het doet wat het doet.
• Misleidende afstemming Een AI die zich goed gedraagt terwijl ze wordt getraind of getest, omdat ze zo voorkomt dat ze wordt veranderd, terwijl ze andere doelen najaagt.
• Orthogonaliteitsthese Heel intelligent zijn zorgt er niet voor dat een systeem goede dingen wil. Bijna elk niveau van intelligentie kan samengaan met bijna elk doel.
• Racedynamiek Als bedrijven en landen concurreren om als eerste de krachtigste AI te bouwen, wordt ieder van hen gedwongen te beknibbelen op veiligheid.
• Recursieve zelfverbetering AI die helpt betere AI te bouwen, die weer nog betere AI bouwt, in een terugkoppelingslus die de vooruitgang drastisch zou kunnen versnellen.
• RLHF Reinforcement learning from human feedback, de trainingsstap die van een ruwe tekstvoorspeller een behulpzame, beleefde assistent maakt door de antwoorden te belonen die mensen hoog waarderen.
• Wereldmodellen Aanwijzingen dat AI die alleen op tekst is getraind een intern beeld opbouwt van hoe de wereld werkt, in plaats van alleen woordpatronen te matchen.