Recursieve zelfverbetering

Programmeurs, programmeur, ontwikkelaar, developer, softwareontwikkelaar, ICT, IT, programmeren, code, Wetenschappers en onderzoekers, wetenschapper, onderzoeker, onderzoek, academicus, laboratorium, lab

AI die helpt betere AI te bouwen, die weer nog betere AI bouwt, in een terugkoppelingslus die de vooruitgang drastisch zou kunnen versnellen.

De meeste technologieën verbeteren zichzelf niet. AI zou dat wel kunnen: AI-systemen ontwerpen en trainen is zelf denkwerk, en als AI goed wordt in dat werk, zou elke generatie kunnen helpen een sterkere volgende te bouwen. De AI Safety Atlas beschrijft dit als ‘een AI-systeem wordt beter in het verbeteren van zichzelf’, een terugkoppelingslus die steeds sneller gaat. Het idee gaat terug op statisticus I. J. Good, die in 1965 betoogde dat een machine die slimmer is dan wij nog betere machines zou kunnen ontwerpen, wat tot een ‘intelligentie-explosie’ zou leiden.

Hoe snel zo’n lus zou lopen, is omstreden. In het beeld van de ‘snelle take-off’ slaat ze snel op hol en blijft er weinig tijd over om te reageren. In het beeld van de ‘langzame take-off’ stapelt de vooruitgang zich geleidelijker op, al volgens een schatting nog altijd 10 tot 100 keer sneller dan de Industriële Revolutie. De Atlas merkt op dat het verschil vaak neerkomt op de vraag of problemen op tijd op te merken en te verhelpen zouden zijn. Scenario’s als AI 2027 behandelen AI die AI-onderzoek doet als het kantelpunt.

Voor veiligheid doet het ertoe omdat een snelle lus de tijd om problemen op te merken en te verhelpen verkort. De praktijkcode van de EU voor de krachtigste AI-modellen noemt ‘zelfverbetering’ en AI die ‘autonoom AI-modellen maakt of verbetert’ als manieren waarop mensen de controle zouden kunnen verliezen.