Podatek od zgodności

Także: alignment tax, podatek od bezpieczeństwa, safety tax

Dodatkowy koszt, w pieniądzach, czasie lub wydajności, uczynienia systemu AI bezpiecznym, a nie tylko sprawnym.

Podatek od zgodności to „koszt ponoszony przez upieranie się, by wdrażać wyłącznie AI zgodną z naszymi celami”, jak ujął to badacz bezpieczeństwa AI Paul Christiano w wykładzie z 2020 roku. To wszystko, ile kosztuje bezpieczeństwo w porównaniu z najszybszą i najtańszą drogą do sprawnego systemu: dodatkowe badania i testy, opóźniona premiera albo model, który w niektórych zadaniach radzi sobie nieco gorzej.

Termin pojawia się w praktyce. Gdy OpenAI trenowało w 2022 roku InstructGPT na podstawie ludzkich ocen (RLHF), model stał się bardziej pomocny i prawdomówny, ale wypadł gorzej w kilku standardowych testach. Artykuł nazwał to „przykładem podatku od zgodności” i znalazł sposób, by go zmniejszyć, domieszując część pierwotnego treningu. Autorzy wyjaśnili też, dlaczego to ważne: wysoki podatek od zgodności „zachęca do korzystania z modeli niezgodnych z naszymi celami, ale sprawniejszych”.

To jest prawdziwy problem. W wyścigu firm ta, która płaci podatek, ryzykuje, że zostanie w tyle za tą, która go nie płaci. Christiano opisał dwie odpowiedzi: obniżyć podatek dzięki badaniom, tak by bezpieczna AI była też najlepszą AI, albo zadbać, by płacili go wszyscy, dzięki porozumieniom i przepisom, tak by bezpieczeństwo nie było wadą konkurencyjną. Regulacje takie jak unijny akt o sztucznej inteligencji (AI Act) są próbą tej drugiej drogi.