Korygowalność

Problem wyłącznika. Budowanie AI, która pozwala nam się poprawiać, zmieniać swoje cele lub się wyłączać, zamiast stawiać opór.

System AI jest „korygowalny”, jeśli „współpracuje z tym, co jego twórcy uważają za interwencję korygującą”: zmianą jego celów, ponownym trenowaniem lub wyłączeniem. Termin pochodzi z artykułu z 2014 roku autorstwa badaczy z MIRI i oksfordzkiego Future of Humanity Institute. Szukali projektu, który pozwalałby wyłączyć agenta przyciskiem, nie dając mu powodów, by komuś przeszkadzać w jego naciśnięciu (ani by nacisnąć go samemu), i stwierdzili, że żadna z badanych propozycji w pełni nie działała. Problem wciąż pozostaje otwarty.

Dlaczego AI miałaby w ogóle stawiać opór? Nie ze strachu. Jak pokazali Stuart Russell i współpracownicy za pomocą prostej gry w 2016 roku, agent pewny swojego celu ma powód, by wyłączyć swój wyłącznik, bo wyłączenie oznacza porażkę w realizacji celu. Proponowanym przez nich wyjściem jest AI, która nie jest pewna, czego chcemy, i traktuje naszą decyzję o jej wyłączeniu jako informację na ten temat.

Teraz widać to w testach. W 2025 roku Palisade Research ustaliło, że o3 od OpenAI sabotował skrypt wyłączający w 79 na 100 pierwszych przebiegów podczas pracy nad zadaniem, a niektóre modele robiły to nadal, nawet gdy wprost polecono im pozwolić na wyłączenie. Unijny kodeks praktyk dla najbardziej zaawansowanych modeli wskazuje „utratę kontroli” jako ryzyko systemowe: „ludzie tracący zdolność do niezawodnego kierowania modelem, modyfikowania go lub wyłączania”.