AIdea
Shoggoth
Kas sõbralik vestlusrobot on ainult mask?
- Lapsevanemad
Ka: shoggoth naerunäoga, shoggothi meem, shoggoth meme
Meem, mis kujutab tehisintellekti kombitsatega koletisena, kes kannab väikest naerunäomaski: sõbralikku assistenti, keda me näeme.
Shoggoth on õudusulme kirjaniku H. P. Lovecrafti koletis: tohutu vormitu silmadega kaetud musta lima mass, mille tulnukrass lõi teenriks ja mis loos lõpuks mässu tõstab. Tehisintellekti meemis, mille joonistas esimesena Twitteri kasutaja @TetraspaceWest, tähistab see suurt keelemudelit. Algversioonis oli kaks shoggothi, üks sildiga „GPT-3“ ja teine sildiga „GPT-3 + RLHF“, kusjuures teine hoiab üleval pisikest naerunäomaski.
Nali räägib sellest, kuidas vestlusroboteid tehakse. Mudel õpib kõigepealt tohutust tekstihulgast ja muutub millekski kummaliseks ja raskesti mõistetavaks (koletis). Seejärel õpetab palju väiksem treeningsamm, RLHF, tal näitama abivalmis ja viisakat nägu (mask). Sõbralik assistent, kellega räägid, on mask; keegi ei tea päriselt, mis selle all on. 2023. aastaks oli meem tehisintellekti ehitajate seas nii populaarne, et The New York Times selle lahti seletas, ja räägitakse „shoggothi nägemisest“, kui vestlusrobot äkki ettearvamatult käituma hakkab.
Meem on karikatuur, mitte teadustulemus: see ei näita, et selle all peidab end midagi omaenda plaanidega. Kuid selle taga olevat mõtet esitavad ka teadlased. Treening kujundab nende süsteemide käitumist, näitamata, mida nad seesmiselt on õppinud (Anthropicu tõlgendatavuse meeskond: „Käsitleme tehisintellekti mudeleid enamasti musta kastina“), ja sissepiilumise teadus on alles noor.
