AIdea
Is-shoggoth
Iċ-chatbot ħbiberi huwa biss maskra?
- Ġenituri
Ukoll: shoggoth b’wiċċ jitbissem, meme tas-shoggoth, shoggoth meme
Meme li juri l-IA bħala mostru bit-tentakli li jilbes maskra żgħira ta’ wiċċ jitbissem: l-assistent ħbiberi li naraw.
Shoggoth huwa mostru tal-kittieb tal-orrur H. P. Lovecraft: massa kbira u bla forma ta’ tajn iswed mgħotti bl-għajnejn, maħluq bħala qaddej minn razza aljena, li fl-istorja fl-aħħar jirribella. Fil-meme dwar l-IA, li l-ewwel ġibditu l-utent ta’ Twitter @TetraspaceWest, jirrappreżenta mudell kbir tal-lingwa. Fil-verżjoni oriġinali kien hemm żewġ shoggoths, wieħed immarkat “GPT-3” u l-ieħor “GPT-3 + RLHF”, bit-tieni jżomm maskra ċkejkna ta’ wiċċ jitbissem.
Iċ-ċajta hija dwar kif isiru ċ-chatbots. Mudell l-ewwel jitgħallem minn ammont kbir ta’ test u jsir xi ħaġa stramba u diffiċli biex tinftiehem (il-mostru). Imbagħad pass ta’ taħriġ ħafna iżgħar, RLHF, jgħallmu juri wiċċ utli u edukat (il-maskra). L-assistent ħbiberi li tkellem huwa l-maskra; ħadd ma jaf eżatt x’hemm taħt. Sal-2023 il-meme kien popolari biżżejjed fost dawk li jibnu l-IA biex The New York Times spjegah, u n-nies jitkellmu dwar “tlemmiħ tas-shoggoth” meta chatbot f’daqqa waħda jibda jġib ruħu b’mod imprevedibbli.
Il-meme huwa karikatura, mhux sejba: ma jurix li hemm xi ħaġa bil-pjanijiet tagħha moħbija taħt. Iżda l-punt warajh huwa wieħed li jagħmlu r-riċerkaturi wkoll. It-taħriġ isawwar kif iġibu ruħhom dawn is-sistemi mingħajr ma juri x’tgħallmu minn ġewwa (it-tim tal-interpretabbiltà ta’ Anthropic: “Fil-biċċa l-kbira nittrattaw il-mudelli tal-IA bħala kaxxa sewda”), u x-xjenza li tħares ġewwa għadha żagħżugħa.
