Võidujooksu dünaamika

Kui ettevõtted ja riigid võistlevad, kes ehitab esimesena kõige võimsama tehisintellekti, on igaüks surve all ohutuse arvelt kokku hoida.

Võidujooks on siis, kui esimeseks olemine on nii oluline, et kõik kiirendavad. AI Safety Atlas kirjeldab tehisintellekti arendamist üha enam võistlusena, kus „võitja saab kõik“ ja kus „konkurentsisurve õõnestab süsteemselt ohutusse tehtavaid investeeringuid, kui kiirus annab otsustava eelise“. Center for AI Safety loeb „tehisintellekti võidujooksu“ üheks neljast peamisest katastroofilise tehisintellekti riski allikast, sest konkurents võib „sundida osalejaid kasutusele võtma ebaturvalisi tehisintellekte või loovutama kontrolli tehisintellektidele“.

See on kollektiivse tegutsemise probleem: iga ettevõte eelistaks ehk ettevaatlikumalt tegutseda, kuid kardab, et aeglustamine annab edumaa lihtsalt vähem ettevaatlikule rivaalile. Sama loogika kehtib riikide vahel. Atlas võrdleb seda ravimitega, kus regulatsioon ja vastutus muudavad ohutuses põhja suunas võidujooksu haruldaseks, ning märgib, et tehisintellektil on seni olnud vähe mõlemat.

Seepärast puudutavad paljud pakutud lahendused pigem koordineerimist kui tehnoloogiat: ühised reeglid nagu ELi tehisintellekti määrus, sõltumatu testimine enne väljalaset, rahvusvahelised lepped või paus. 2023. aasta märtsis palus Future of Life Institute’i avalik kiri tehisintellekti laboritel peatada GPT-4-st võimsamate süsteemide treenimine vähemalt kuueks kuuks. Pausi ei tulnud.