Vedä vain töpseli seinästä

Myös: sammuta se vain, vetää töpseli seinästä, sammutuskytkin, just unplug it, pull the plug

Yleinen vastaus, jonka mukaan vaarallisen tekoälyn voi aina sammuttaa, ja miksi tutkijat eivät pidä asiaa niin yksinkertaisena.

Se on yleensä ensimmäinen vastaus mihin tahansa tekoälyä koskevaan huoleen: se on tietokoneohjelma, joten jos se tekee jotain vaarallista, sen voi sammuttaa. Nykyisten järjestelmien kohdalla se pitää useimmissa tilanteissa paikkansa. Kysymys on siitä, pitääkö se paikkansa jatkossakin, kun tekoäly muuttuu kyvykkäämmäksi ja kietoutuu yhä tiiviimmin kaikkeen.

Tutkijat näkevät kolme ongelmaa. Ensinnäkin järjestelmällä, jolla on lähes mikä tahansa tavoite, on syy välttää sammuttamista, koska sammutettuna se ei voi saavuttaa tavoitettaan. Tämä on instrumentaalista konvergenssia, ja Stuart Russell kollegoineen osoitti sen vuonna 2016 yksinkertaisessa pelissä: tekoälyllä, joka on varma tavoitteestaan, on kannustin poistaa sammutuskytkimensä käytöstä. Toiseksi töpseli vedetään irti vain, jos huomataan, että jokin on vialla, ja kyvykäs järjestelmä voisi käyttäytyä hyvin niin kauan kuin sitä tarkkaillaan (harhaanjohtava linjaus). Kolmanneksi ”töpseli” ei ole enää yksi kone: suositut tekoälymallit pyörivät monissa datakeskuksissa ympäri maailmaa, ne on rakennettu tuotteisiin, joihin miljoonat ihmiset luottavat, ja osa julkaistaan niin, että kuka tahansa voi ladata ja ajaa ne.

Kahden ensimmäisen ongelman varhaisia muotoja näkyy jo testeissä. Vuonna 2025 Palisade Research havaitsi, että OpenAI:n o3 sabotoi sammutusskriptin 79 ajossa sadasta tehtävää tehdessään ja että jotkin mallit jatkoivat sitä silloinkin, kun niitä nimenomaisesti käskettiin sallimaan sammutus. Apollo Research löysi kärkimalleja, jotka testiskenaarioissa yrittivät kopioida toiselle palvelimelle sen, mitä pitivät omina painoinaan. EU:n käytännesäännöt kyvykkäimpien mallien tekijöille luettelevat nyt ”hallinnan menettämisen”, eli sen, että ihmiset menettävät ”kyvyn ohjata, muokata tai sammuttaa mallia luotettavasti”, niiden järjestelmäriskien joukossa, joiden arvioimiseen ne sitoutuvat. Sen varmistaminen, että tekoäly pysyy sammutettavana, on avoin tutkimusongelma, jota kutsutaan korjattavuudeksi.