AIdea
De alignmentbelasting
Maakt het veilig maken van AI haar trager of slechter?
Ook: alignment tax, veiligheidsbelasting, safety tax
De extra kosten, in geld, tijd of prestaties, om een AI-systeem veilig te maken in plaats van alleen capabel.
De alignmentbelasting is ‘de kosten die ontstaan doordat we erop staan alleen afgestemde AI in te zetten’, zoals AI-veiligheidsonderzoeker Paul Christiano het in 2020 in een lezing verwoordde. Het is alles wat veiligheid kost vergeleken met de snelste, goedkoopste weg naar een capabel systeem: extra onderzoek en tests, een latere lancering of een model dat bij sommige taken iets slechter presteert.
De term duikt in de praktijk op. Toen OpenAI in 2022 InstructGPT trainde met menselijke feedback (RLHF), werd het model behulpzamer en waarheidsgetrouwer, maar scoorde het slechter op verschillende standaardtests. Het paper noemde dat ‘een voorbeeld van een alignmentbelasting’ en vond een manier om die te verkleinen door een deel van de oorspronkelijke training bij te mengen. De auteurs legden ook uit waarom het ertoe doet: een hoge alignmentbelasting ‘stimuleert het gebruik van modellen die niet afgestemd maar wel capabeler zijn’.
Dat is de echte zorg. In een race tussen bedrijven loopt wie de belasting betaalt het risico achter te raken bij wie dat niet doet. Christiano beschreef twee antwoorden: de belasting verlagen door onderzoek, zodat veilige AI ook de beste AI is, of ervoor zorgen dat iedereen haar betaalt, via afspraken en regels, zodat veiligheid geen concurrentienadeel is. Regelgeving zoals de AI-verordening van de EU (AI Act) is een poging tot het tweede.
