Šogots

Vecāki, māte, mamma, tēvs, tētis, ģimene, bērni

Arī: šogots ar smaidiņu, šogota mēms, shoggoth meme

Mēms, kas attēlo MI kā taustekļainu briesmoni ar mazu smaidiņa masku: draudzīgo asistentu, ko mēs redzam.

Šogots ir šausmu rakstnieka H. F. Lavkrafta briesmonis: milzīga, bezveidīga melnu gļotu masa, klāta ar acīm, ko kā kalpu radījusi citplanētiešu rase un kas stāstā galu galā saceļas. MI mēmā, ko pirmais uzzīmēja Twitter lietotājs @TetraspaceWest, tas apzīmē lielu valodas modeli. Sākotnējā versijā bija divi šogoti, viens ar uzrakstu “GPT-3” un otrs ar “GPT-3 + RLHF”, turklāt otrais tur sīciņu smaidiņa masku.

Joks ir par to, kā tiek veidoti tērzēšanas roboti. Modelis vispirms mācās no milzīga teksta daudzuma un kļūst par kaut ko dīvainu un grūti saprotamu (briesmonis). Pēc tam daudz mazāks apmācības solis, RLHF, iemāca tam rādīt izpalīdzīgu, pieklājīgu seju (maska). Draudzīgais asistents, ar kuru tu runā, ir maska; neviens īsti nezina, kas ir zem tās. 2023. gadā mēms bija tik populārs to vidū, kas veido MI, ka to skaidroja The New York Times, un par “šogota pamanīšanu” runā, kad tērzēšanas robots pēkšņi sāk uzvesties neparedzami.

Mēms ir karikatūra, nevis atklājums: tas neparāda, ka zem tā slēpjas kaut kas ar saviem plāniem. Taču domu, kas ir aiz tā, pauž arī pētnieki. Apmācība veido šo sistēmu uzvedību, neparādot, ko tās iekšēji iemācījušās (Anthropic interpretējamības komanda: “MI modeļus mēs lielākoties uztveram kā melno kasti”), un zinātne par ielūkošanos iekšā vēl ir jauna.