Dinamica de cursă

Când companiile și țările se întrec să construiască primele cea mai puternică IA, fiecare e împins să facă economie la siguranță.

O cursă apare când a fi primul contează atât de mult încât toată lumea accelerează. AI Safety Atlas descrie dezvoltarea IA ca semănând tot mai mult cu o competiție în care „câștigătorul ia tot”, unde „presiunile competitive subminează sistematic investițiile în siguranță atunci când viteza oferă avantaje decisive”. Center for AI Safety numără „cursa IA” printre cele patru surse principale de risc catastrofal al IA, pentru că concurența poate „obliga actorii să implementeze IA nesigure sau să cedeze controlul IA”.

Este o problemă de acțiune colectivă: fiecare companie poate ar prefera să meargă mai prudent, dar se teme că încetinirea doar ar preda conducerea unui rival mai puțin prudent. Aceeași logică se aplică între țări. Atlas compară situația cu medicamentele, unde reglementarea și răspunderea fac rară o cursă spre fund în privința siguranței, și notează că IA a avut până acum puțin din amândouă.

De aceea multe dintre soluțiile propuse țin de coordonare, nu de tehnologie: reguli comune precum Regulamentul UE privind IA, teste independente înainte de lansare, acorduri internaționale sau o pauză. În martie 2023, scrisoarea deschisă a Future of Life Institute a cerut laboratoarelor IA să suspende timp de cel puțin șase luni antrenarea sistemelor mai puternice decât GPT-4. Nu a avut loc nicio pauză.