Je to len automatické dopĺňanie

Žiaci a študenti, žiak, žiačka, študent, študentka, univerzita, vysoká škola, štúdium, Učitelia, učiteľ, učiteľka, pedagóg, pedagogička, škola, vyučovanie

Aj: len automatické dopĺňanie, vylepšené dopĺňanie, just autocomplete, predpoveď ďalšieho tokenu

Predstava, že chatboty sú len väčšou verziou návrhov slov v tvojom telefóne, takže sa netreba ničoho obávať.

Niečo pravdy na tom je. Prvým a najväčším krokom tréningu jazykového modelu je predpovedanie ďalšieho slova: prečíta obrovské množstvo textu a učí sa odhadovať, čo príde ďalej, podobne ako návrhy na klávesnici telefónu. A keď odpovedá, píše po jednom kúsku slova.

Ale slovo „len“ zamlčuje tri veci. Po prvé, dnešné chatboty nie sú trénované len na predpovedanie textu. Potom sa trénujú pomocou ľudskej spätnej väzby (RLHF), aby boli užitočnými asistentmi, a od roku 2024 sa novšie „uvažujúce“ modely, ako o1 od OpenAI, trénujú rozsiahlym posilňovaným učením, aby problémy pred odpoveďou riešili krok za krokom. Po druhé, predpovedať ďalšie slovo veľmi dobre môže vyžadovať veľa: výskumníci, ktorí nazerajú do modelov, v nich našli vnútorné reprezentácie sveta a Anthropic zistil, že Claude plánuje dopredu a vyberá rýmované slovo skôr, než napíše verš, ktorý ním končí. Ako to Anthropic sformuloval, modely sú „trénované vypisovať jedno slovo po druhom“, ale „môžu pritom premýšľať v oveľa dlhšom horizonte“. Po tretie, „len“ nehovorí nič o tom, čo systém dokáže. Schopnosti rástli s veľkosťou, často spôsobom, ktorý nikto nepredpovedal.

Nič z toho neznamená, že tieto systémy myslia ako ľudia, a stále robia jednoduché chyby. Ale „je to automatické dopĺňanie“ opisuje, ako výstup vzniká, nie to, aký schopný alebo bezpečný systém je. To treba otestovať, nie predpokladať.