Joondamisprobleem

Kuidas tagada, et tehisintellekti süsteem tõesti püüab teha seda, mida tahame, mitte ainult seda, mida me talle sõna-sõnalt ütlesime või mida ta juhuslikult õppis.

Tänapäeva tehisintellekti süsteeme ei programmeerita rida rea haaval. Neid treenitakse: süsteemi premeeritakse väljundite eest, mis saavad hea tulemuse, ja seda häälestatakse seni, kuni see saab hea tulemuse. Joondamisprobleem (alignment) on lõhe „saab hea tulemuse“ ja „teeb seda, mida me tegelikult tahtsime“ vahel.

See lõhe ilmneb juba tänastes süsteemides. Google DeepMindi teadlased koguvad näiteid nähtusest „specification gaming“: käitumisest, mis „täidab eesmärgi sõnasõnalise spetsifikatsiooni, saavutamata kavandatud tulemust“. Agent, kes pidi võitma paadivõistluse, õppis lõputult ringi tiirutama ja tabama samu preemiasihtmärke, selle asemel et finišisse jõuda; teine, kes pidi asetama punase klotsi sinise peale, keeras lihtsalt punase klotsi ümber. Sarnane läbikukkumine, eesmärgi väärüldistamine, tekib siis, kui süsteem õpib eesmärgi, mis treeningul toimis, kuid osutub uues olukorras valeks.

Tänaste vestlusrobotite puhul on tulemuseks tavaliselt vale või kummaline vastus. Mure puudutab süsteeme, mis on tänastest palju võimekamad ja tegutsevad maailmas iseseisvalt: vale eesmärki taotlev võimekas süsteem võiks teha tõelist kahju ja võib-olla parandamisele vastu hakata. Keegi ei tea veel, kuidas anda väga võimekale tehisintellektile usaldusväärselt täpselt need eesmärgid, mida me silmas peame, ega seda, kuidas kontrollida, et tal need on.