AIdea
To tylko autouzupełnianie
Czy AI tylko przewiduje następne słowo?
- Uczniowie i studenci
- Nauczyciele
Także: tylko autouzupełnianie, lepsze autouzupełnianie, just autocomplete, przewidywanie następnego tokenu
Przekonanie, że chatboty to tylko większa wersja podpowiedzi słów w twoim telefonie, więc nie ma się czym martwić.
Jest w tym coś prawdziwego. Pierwszym i największym etapem treningu modelu językowego jest przewidywanie następnego słowa: czyta ogromne ilości tekstu i uczy się zgadywać, co będzie dalej, podobnie jak podpowiedzi na klawiaturze telefonu. A gdy odpowiada, pisze po jednym kawałku słowa naraz.
Ale „tylko” ukrywa trzy rzeczy. Po pierwsze, dzisiejsze chatboty nie są trenowane wyłącznie do przewidywania tekstu. Następnie trenuje się je na podstawie ludzkich ocen (RLHF), by były pomocnymi asystentami, a od 2024 roku nowsze modele „rozumujące”, takie jak o1 od OpenAI, trenuje się za pomocą uczenia przez wzmacnianie na dużą skalę, by przed odpowiedzią rozwiązywały problemy krok po kroku. Po drugie, bardzo dobre przewidywanie następnego słowa może wymagać wiele: badacze zaglądający do wnętrza modeli znaleźli wewnętrzne reprezentacje świata, a Anthropic odkrył, że Claude planuje z wyprzedzeniem, wybierając słowo do rymu, zanim napisze wers, który się nim kończy. Jak ujął to Anthropic, modele są „trenowane, by wypisywać jedno słowo naraz”, ale „mogą przy tym myśleć w znacznie dłuższej perspektywie”. Po trzecie, „tylko” nic nie mówi o tym, co system potrafi. Możliwości rosły wraz ze skalą, często w sposób, którego nikt nie przewidział.
Nic z tego nie znaczy, że te systemy myślą jak ludzie, i nadal popełniają proste błędy. Ale „to autouzupełnianie” opisuje, jak powstaje odpowiedź, a nie to, jak sprawny czy bezpieczny jest system. To trzeba sprawdzić, a nie zakładać.
