AIdea
A shoggoth
Csak egy álarc a barátságos chatbot?
- Szülők
Más néven: shoggoth szmájlival, shoggoth-mém, shoggoth meme
Egy mém, amely az MI-t csápos szörnyként ábrázolja, amely egy kis mosolygós álarcot visel: azt a barátságos asszisztenst, akit látunk.
A shoggoth H. P. Lovecraft horrorszerző egyik szörnye: hatalmas, formátlan, szemekkel borított fekete nyálkatömeg, amelyet egy idegen faj teremtett szolgának, és amely a történetben végül fellázad. A mémben, amelyet először @TetraspaceWest Twitter-felhasználó rajzolt meg, egy nagy nyelvi modellt jelképez. Az eredeti változatban két shoggoth volt, az egyiken „GPT-3”, a másikon „GPT-3 + RLHF” felirattal, és a második egy apró mosolygós álarcot tartott maga elé.
A poén arról szól, hogyan készülnek a chatbotok. Egy modell először hatalmas mennyiségű szövegből tanul, és valami furcsává, nehezen érthetővé válik (a szörny). Aztán egy sokkal kisebb tanítási lépés, az RLHF, megtanítja segítőkész, udvarias arcot mutatni (az álarc). A barátságos asszisztens, akivel beszélsz, az álarc; senki sem tudja igazán, mi van alatta. 2023-ra a mém annyira népszerű lett az MI-t építők körében, hogy a The New York Times is elmagyarázta, és arról beszélnek, hogy „megpillantották a shoggothot”, amikor egy chatbot hirtelen kiszámíthatatlanul kezd viselkedni.
A mém egy karikatúra, nem kutatási eredmény: nem bizonyítja, hogy alatta valami saját tervekkel rejtőzik. De a mögötte álló gondolatot a kutatók is vallják. A tanítás alakítja ezeknek a rendszereknek a viselkedését anélkül, hogy megmutatná, mit tanultak meg belül (az Anthropic értelmezhetőségi csapata: „Az MI-modelleket többnyire fekete dobozként kezeljük”), és a belsejükbe tekintés tudománya még fiatal.
