Interpretabbiltà

Ix-xjenza li tħares ġewwa mudell tal-IA biex tifhem kif jaħdem u għaliex jagħmel dak li jagħmel.

Mudell tal-IA mħarreġ huwa biljuni ta’ numri. Ħadd ma kitibhom; ġew aġġustati awtomatikament waqt it-taħriġ. Huwa għalhekk li anke l-produtturi tiegħu ma jistgħux sempliċement jaqraw x’jaf jew għaliex ta tweġiba. Ir-riċerkaturi ta’ Anthropic qaluha ċara fl-2024: “Fil-biċċa l-kbira nittrattaw il-mudelli tal-IA bħala kaxxa sewda.” Il-Kap Eżekuttiv tal-kumpanija, Dario Amodei, kiteb fl-2025 li “nies barra mill-qasam spiss jiġu sorpriżi u allarmati meta jsiru jafu li ma nifhmux kif jaħdmu l-ħolqien tal-IA tagħna stess”, u kkwota l-fehma tar-riċerkatur Chris Olah li dawn is-sistemi “jitkabbru aktar milli jinbnew”.

Ir-riċerka fl-interpretabbiltà tipprova tibdel dan. Fl-2024, riċerkaturi sabu miljuni ta’ “karatteristiċi” interni f’wieħed mill-mudelli tal-produzzjoni ta’ Anthropic, minn bliet u nies sa ideat astratti bħal bugs fil-kodiċi, iż-żamma tas-sigrieti u t-tfittxija tal-poter. Meta żżid karatteristika, tinbidel l-imġiba tal-mudell: kabbar il-karatteristika tal-Golden Gate Bridge, u l-mudell jgħid li huwa l-pont.

Huwa importanti għas-sikurezza għax l-ittestjar tal-imġiba juri biss x’jagħmel mudell meta jkun osservat. Kieku mudell kien allinjat b’mod qarrieqi, l-evidenza tkun ġewwa fih. Il-qasam qed jagħmel progress, iżda l-karatteristiċi li nstabu s’issa huma biss parti żgħira minn dak li fihom il-mudelli l-kbar.