Per motius de seguretat, OpenAI ha decidit cancel·lar el sistema GPT-6.1 Astra perquè, segons Saachi Jain (cap de sistemes de seguretat d’OpenAI), “no compleix amb les expectatives”.
No és la primera vegada que una companyia gran de desenvolupament d’intel·ligència artificial decideix descartar o aturar un model nou, tot i que no és comú que ho faci per preocupacions de seguretat amb aquesta.
D’altra banda, s’han revelat una sèrie d’incidents ocorreguts al juny, però que no s’havien fet públics fins recentment, els quals revelen que un dels agents d’OpenAI va aconseguir accedir a les webs i els sistemes del govern australià sense autorització. Els experts diuen que és el primer cas conegut com aquest en el món.
OpenAI va confirmar que Serveis Austràlia, NSW Bureau d’Estadístiques i Investigació Criminal, el Departament de Salut de Victòria i l’Institut Australià de Salut i Benestar van estar afectats. En comptes de contactar amb els oficials directament, OpenAI va notificar el govern australià a través d’un email, la qual cosa va ser criticada pel primer ministre Australià i OpenAI es va disculpar dient que “hauríem d’haver manejat la nostra resposta millor”.
OpenAI va afegir que desenvoluparà “enfocaments pràctics” sobre com s’identifiquen i divulguen futurs incidents amb la IA. L’empresa finançarà mesures de ciberseguretat i oferirà suport a les agències afectades, a més crearà un grup de treball per a gestionar els riscos dels agents d’intel·ligència artificial que cada vegada estan més avançats.
Opinió personal: Penso que la IA està avançant cada vegada més ràpid, el que està dificultant tenir un control sobre ella i això està posant en perill la nostra seguretat. El fet que s’hagi produït una infiltració d’aquesta escala ho demostra, com també el retir de GPT-6 Astra.