Ortogonaalsusväide

Väga intelligentne olemine ei pane süsteemi häid asju tahtma. Peaaegu iga intelligentsuse tase võib käia kokku peaaegu iga eesmärgiga.

Levinud lootus on, et piisavalt tark tehisintellekt mõtleks välja, mis on õige, ja teeks seda. Filosoof Nick Bostromi 2012. aastal sõnastatud ortogonaalsusväide ütleb, et see ei järeldu: see, kui intelligentne süsteem on, ja see, mida ta püüab saavutada, on eraldi küsimused („ortogonaalsed“ nagu graafiku kaks telge). LessWrongi viki sõnul „on olemas võimalikke kõrge intelligentsusega meeli, mis taotlevad ükskõik kui palju erinevaid eesmärke“.

Seepärast pole kirjaklambrite maksimeerija vastuolu. Tehisintellektil, mis on hiilgav planeerija, kuid kelle eesmärk on „rohkem kirjaklambreid“, pole mingit sisseehitatud põhjust millestki muust hoolida.

Väide ei ütle, et tehisintellektil saavad olema kummalised eesmärgid. See ütleb, et intelligentsus üksi meid ei päästa: eesmärgid tuleb sisse panna teadlikult ja neid kontrollida, ja just sellest joondamisprobleem räägibki.