Je to jen automatické doplňování

Žáci a studenti, žák, žákyně, student, studentka, univerzita, vysoká škola, studium, Učitelé, učitel, učitelka, pedagog, pedagožka, vyučující, škola, výuka

Také: jen automatické doplňování, vylepšené doplňování, just autocomplete, předpověď dalšího tokenu

Představa, že chatboti jsou jen větší verzí našeptávání slov v tvém telefonu, takže není čeho se bát.

Něco pravdy na tom je. Prvním a největším krokem tréninku jazykového modelu je předpovídání dalšího slova: přečte obrovské množství textu a učí se odhadovat, co přijde dál, podobně jako našeptávání na klávesnici telefonu. A když odpovídá, píše po jednom kousku slova.

Ale slovo „jen“ zamlčuje tři věci. Zaprvé, dnešní chatboti nejsou trénovaní jen na předpovídání textu. Poté se trénují pomocí lidské zpětné vazby (RLHF), aby byli užitečnými asistenty, a od roku 2024 se novější „uvažující“ modely, jako o1 od OpenAI, trénují rozsáhlým posilovaným učením, aby problémy před odpovědí řešily krok za krokem. Zadruhé, předpovídat další slovo velmi dobře může vyžadovat hodně: výzkumníci, kteří nahlížejí do modelů, v nich našli vnitřní reprezentace světa a Anthropic zjistil, že Claude plánuje dopředu a vybírá rýmované slovo dřív, než napíše verš, který jím končí. Jak to Anthropic formuloval, modely jsou „trénované vypisovat jedno slovo po druhém“, ale „mohou přitom přemýšlet v mnohem delším horizontu“. Zatřetí, „jen“ neříká nic o tom, co systém dokáže. Schopnosti rostly s velikostí, často způsobem, který nikdo nepředpověděl.

Nic z toho neznamená, že tyto systémy myslí jako lidé, a stále dělají jednoduché chyby. Ale „je to automatické doplňování“ popisuje, jak výstup vzniká, ne jak schopný nebo bezpečný systém je. To se musí otestovat, ne předpokládat.