Korrigeeritavus

Väljalülitusnupu probleem. Ehitada tehisintellekt, mis lubab meil seda parandada, muuta selle eesmärke või see välja lülitada, selle asemel et vastu hakata.

Tehisintellekti süsteem on „korrigeeritav“, kui see „teeb koostööd sellega, mida selle loojad peavad korrigeerivaks sekkumiseks“: selle eesmärkide muutmise, ümbertreenimise või väljalülitamisega. Mõiste pärineb MIRI ja Oxfordi Future of Humanity Institute’i teadlaste 2014. aasta artiklist. Nad otsisid lahendust, mis laseks agendi nupuvajutusega välja lülitada, andmata talle põhjust takistada kedagi nuppu vajutamast (või seda ise vajutada), ja leidsid, et ükski uuritud ettepanekutest ei toiminud täielikult. Probleem on endiselt lahtine.

Miks peaks tehisintellekt üldse vastu hakkama? Mitte hirmust. Nagu Stuart Russell ja kolleegid 2016. aastal lihtsa mänguga näitasid, on oma eesmärgis kindlal agendil põhjus oma väljalülitusnupp keelata, sest väljalülitamine tähendab eesmärgis läbikukkumist. Nende pakutud väljapääs on tehisintellekt, mis pole kindel, mida me tahame, ja käsitleb meie otsust ta välja lülitada teabena selle kohta.

See ilmneb nüüd testides. 2025. aastal leidis Palisade Research, et OpenAI o3 saboteeris ülesande kallal töötades väljalülitusskripti 79 korral esimesest 100 käivitusest ja mõned mudelid jätkasid seda isegi siis, kui neil kästi selgesõnaliselt väljalülitamist lubada. ELi tegevusjuhend kõige võimekamate mudelite jaoks nimetab süsteemse riskina „kontrolli kaotamist“: „inimesed kaotavad võime mudelit usaldusväärselt juhtida, muuta või välja lülitada“.