Shoggoth

Vanhemmat, vanhempi, äiti, isä, perhe, lapset

Myös: shoggoth ja hymiö, shoggoth-meemi, shoggoth meme

Meemi, joka esittää tekoälyn lonkeroisena hirviönä, jolla on pieni hymiönaamio: se ystävällinen avustaja, jonka näemme.

Shoggoth on kauhukirjailija H. P. Lovecraftin hirviö: valtava, muodoton silmien peittämä musta limamassa, jonka muukalaisrotu loi palvelijakseen ja joka tarinassa lopulta kapinoi. Tekoälymeemissä, jonka Twitter-käyttäjä @TetraspaceWest piirsi ensimmäisenä, se kuvaa suurta kielimallia. Alkuperäisessä versiossa oli kaksi shoggothia, toinen nimellä ”GPT-3” ja toinen nimellä ”GPT-3 + RLHF”, ja jälkimmäinen pitelee pikkuruista hymiönaamiota.

Vitsi kertoo siitä, miten chatbotit tehdään. Malli oppii ensin valtavasta määrästä tekstiä ja muuttuu joksikin oudoksi ja vaikeasti ymmärrettäväksi (hirviö). Sitten paljon pienempi koulutusvaihe, RLHF, opettaa sen näyttämään avuliaat, kohteliaat kasvot (naamio). Ystävällinen avustaja, jonka kanssa juttelet, on naamio; kukaan ei oikeastaan tiedä, mitä sen alla on. Vuoteen 2023 mennessä meemi oli tekoälyä rakentavien keskuudessa niin suosittu, että The New York Times selitti sen, ja puhutaan ”shoggothin vilauksesta”, kun chatbot yhtäkkiä alkaa käyttäytyä arvaamattomasti.

Meemi on piirros, ei tutkimustulos: se ei osoita, että alla piilee jotain omine suunnitelmineen. Mutta sen taustalla oleva ajatus on myös tutkijoiden esittämä. Koulutus muovaa näiden järjestelmien käyttäytymistä paljastamatta, mitä ne ovat sisäisesti oppineet (Anthropicin tulkittavuustiimi: ”Kohtelemme tekoälymalleja enimmäkseen mustana laatikkona”), ja sisälle kurkistamisen tiede on vielä nuorta.