Това е просто автодовършване

Ученици и студенти, ученик, ученичка, студент, студентка, университет, училище, учене, Учители, учител, учителка, преподавател, преподавателка, училище, образование

Още: просто автодовършване, подобрено автодовършване, just autocomplete, предсказване на следващия токен

Идеята, че чатботовете са просто по-голяма версия на предложенията за думи в телефона ти, така че няма за какво да се тревожим.

Има нещо вярно в това. Първата и най-голяма стъпка в обучението на езиков модел е предсказването на следващата дума: той чете огромно количество текст и се учи да познава какво следва, подобно на предложенията на клавиатурата на телефона. А когато отговаря, пише по едно парченце от дума наведнъж.

Но „просто“ крие три неща. Първо, днешните чатботове не са обучени само да предсказват текст. След това те се обучават с човешка обратна връзка (RLHF), за да станат полезни асистенти, а от 2024 г. по-новите „разсъждаващи“ модели като o1 на OpenAI се обучават с мащабно обучение с подкрепление да решават проблемите стъпка по стъпка, преди да отговорят. Второ, много доброто предсказване на следващата дума може да изисква много: изследователи, които надникват в моделите, са открили вътрешни представи за света, а Anthropic установи, че Claude планира напред и избира римуваща се дума, преди да напише реда, който завършва с нея. Както казва Anthropic, моделите са „обучени да извеждат по една дума наведнъж“, но „за целта може да мислят в много по-дълъг хоризонт“. Трето, „просто“ не казва нищо за това какво може системата. Способностите растат с мащаба, често по начини, които никой не е предвидил.

Нищо от това не означава, че тези системи мислят като хората, и те все още правят прости грешки. Но „това е автодовършване“ описва как се получава резултатът, а не колко способна или безопасна е системата. Това трябва да се проверява, а не да се предполага.