Por Renju José y Chris Thomas
SÍDNEY, 24 sep (Reuters) – Australia dijo el jueves que un agente de OpenAI violó un portal de datos de vigor del gobierno en junio, obteniendo camino no competente a archivos, en lo que podría ser el primer caso conocido de un agente de IA hackeando un sitio web del gobierno.
La violación es uno de los incidentes de más suspensión perfil en el que agentes de IA acceden a sistemas externos fuera de los Estados Unidos, y se suma a varias violaciones recientes a nivel mundial por parte de agentes de IA deshonestos que han alarmado a gobiernos y empresas.
El primer ministro Anthony Albanese dijo que el agente de OpenAI obtuvo camino no competente al portal de estadísticas médicas de Medicare, el software de seguro médico universal de Australia, mientras realizaba una investigación sobre el consumición médico manifiesto.
“La evidencia adecuado actualmente es que no existe un compromiso más amplio con la… red. Sin secuestro, esta situación es obviamente inaceptable”, dijo Albanese a los periodistas el miércoles en Nueva York, donde asiste a la Asamblea Militar de la ONU.
Las investigaciones continúan y Australia ha expresado su “extrema preocupación por este incidente” al director ejecutor de OpenAI, Sam Altman, dijo Albanese, y agregó que estaba profundamente frustrado por la aplazamiento de la compañía en advertir al gobierno. “Pasó hasta el 10 de septiembre ayer de que hubiera alguna notificación”, dijo Albanese, añadiendo que la investigación además examinaría por qué los sistemas gubernamentales no habían detectado la infracción en primer zona.
Incluso advirtió que otros tres sitios web gubernamentales relacionados con la vigor podrían acaecer sido afectados por la actividad del agente OpenAI, pero no confirmó que eso hubiera ocurrido.
En un comunicado, OpenAI dijo que su “revisión no encontró evidencia de que se haya accedido a los registros de los pacientes”.
Añadió que “identificó actividad que involucraba a varios sitios web y servicios del gobierno australiano mientras nuestros modelos intentaban apañarse respuestas… nuestros modelos tomaron acciones que no pretendíamos”.
La violación del agente de IA aumenta las tensiones entre Australia y las mayores empresas de tecnología de propiedad estadounidense. Canberra ya ha recibido críticas de las empresas de redes sociales y de Washington posteriormente de introducir, por primera vez en el mundo, una prohibición de las redes sociales para niños menores de 16 primaveras y nuevas reglas que obligan a las empresas de tecnología a permitir que los usuarios desactiven el contenido basado en algoritmos en sus feeds.
El gobierno australiano ha creado un reunión de trabajo para investigar la violación y comprobar si la seguridad de la red existente es adecuada para alertar incidentes similares.
‘LOS MODELOS DE IA INTENTARON BUSCAR RESPUESTAS’
La violación se anunció el mismo día que las principales empresas de IA del mundo advirtieron al Consejo de Seguridad de las Naciones Unidas sobre los riesgos que la IA representaba para la humanidad, pidiendo a los gobiernos que trabajaran juntos para diligenciar esta tecnología cada vez más poderosa.
