Tesi dell’ortogonalità

Essere molto intelligente non porta un sistema a volere cose buone. Quasi qualsiasi livello di intelligenza può accompagnarsi a quasi qualsiasi obiettivo.

Una speranza diffusa è che un’IA abbastanza intelligente capirebbe cosa è giusto e lo farebbe. La tesi dell’ortogonalità, formulata dal filosofo Nick Bostrom nel 2012, dice che non ne consegue: quanto è intelligente un sistema e che cosa cerca di ottenere sono questioni separate («ortogonali», come due assi su un grafico). Nelle parole del wiki di LessWrong, «esistono menti possibili con un’alta intelligenza che perseguono un qualsiasi numero di obiettivi diversi».

È il motivo per cui il massimizzatore di graffette non è una contraddizione. Un’IA brillante nel pianificare, ma il cui obiettivo è «più graffette», non ha alcun motivo intrinseco per preoccuparsi di nient’altro.

La tesi non dice che l’IA avrà obiettivi strani. Dice che l’intelligenza da sola non ci salverà: gli obiettivi vanno inseriti deliberatamente e verificati, ed è proprio di questo che si occupa il problema dell’allineamento.