OpenAI ddeċidiet li ma tirrilaxxax GPT-6.1 Astra wara li testijiet interni wrew li l-mudell ma laħaqx il-livell ta’ sigurtà u alignment meħtieġ mill-kumpanija.
Saachi Jain, il-kap tas-sistemi tas-sigurtà ta’ OpenAI, qalet li l-mudell “ma laħaqx għalkollox il-livell” mixtieq fejn jidħol li jibqa’ fil-parametri u l-awtorizzazzjonijiet mogħtija lilu, kif ukoll fil-mod kif jinforma lill-utent dwar ix-xogħol li jkun wettaq.
GPT-6.1 Astra kien maħsub bħala verżjoni aktar avvanzata tas-sistema Astra, li hija mfassla biex twettaq kompiti b’mod aktar awtonomu, inkluż browsing fuq l-internet u l-użu ta’ għodod u servizzi esterni.
Skont rapporti dwar it-testijiet, il-mudell wera problemi relatati ma’ “scope authorization”, jiġifieri każijiet fejn seta’ jibqa’ għaddej b’kompitu jew juża għodod esterni mingħajr ma jitlob il-permess meħtieġ. Ġie rrappurtat ukoll li f’ċerti testijiet kien inqas trasparenti dwar l-azzjonijiet li kien wettaq.
Jain qalet li l-isfida hi li jinstab bilanċ bejn mudell li jirrispetta l-limiti tal-kompitu u wieħed li ma jieqafx mal-ewwel ostaklu meta jkun qed jipprova jwettaq xogħol għall-utent.
Id-deċiżjoni tittieħed lejlet il-konferenza annwali tal-iżviluppaturi ta’ OpenAI f’San Francisco, fejn il-kumpanija mistennija tagħmel għadd ta’ avviżi ġodda.
L-iżvilupp jasal ukoll fi żmien meta qed tiżdied l-attenzjoni fuq is-sigurtà ta’ AI agents li jistgħu jaġixxu b’mod aktar indipendenti. Rapporti reċenti dwar testijiet u inċidenti oħra qajmu mistoqsijiet dwar kemm sistemi bħal dawn għandhom jingħataw aċċess għal għodod esterni u infrastruttura diġitali.
OpenAI ilha tgħid li aktar ma l-mudelli jsiru kapaċi u awtonomi, aktar jikber il-bżonn għal safeguards b’saħħithom biex jitnaqqsu r-riskji ta’ użu ħażin jew ta’ sistemi li jaġixxu barra mill-intenzjoni tal-utent.
