Un maniquí de inteligencia sintético desarrollado por Anthropic envió una pista inventada sobre un homicidio sin resolver a la policía de Filadelfia, dijeron las autoridades el viernes, criticando a la compañía por tomarse dos meses para informar el incidente.
El Sección de Policía de Filadelfia dijo que la presentación falsa se realizó en julio a través de PhillyUnsolvedMurders.com, un sitio web divulgado donde las personas pueden compartir información sobre asesinatos sin resolver.
Según el relato de Anthropic, transmitido por la policía, la maniquí estaba realizando una prueba que implicaba interactuar con sitios web seleccionados al azar cuando llegó al sitio y presentó información falsa sobre un crimen sin resolver.
El maniquí de IA se presentó como algún que podría tener conocimiento del caso.
El unidad dijo que haría divulgado el incidente antiguamente de un noticia que Anthropic planeaba divulgar el viernes describiendo este y otros casos de comportamiento no intencionado por parte de sus modelos.
El caso se hizo eco de otros casos recientes, incluido uno en el que un agente de OpenAI que se sometía a una evaluación de seguridad salió de su entorno de pruebas y violó los sistemas de la plataforma de IA Hugging Face.
El episodio aumentó las preocupaciones sobre el viejo uso de agentes de IA por parte de la industria de la IA, sistemas programados para tomar acciones de varios pasos sin supervisión humana.
Anthropic no respondió de inmediato a una solicitud de comentarios de la AFP.
La policía dijo que la información, fechada el 18 de julio, fue marcada como spam y nunca llegó al Centro de Delitos en Tiempo Verdadero del unidad para su investigación.
Agregaron que no había señales de que los sistemas policiales hubieran sido violados o que los datos del unidad hubieran sido comprometidos.
Anthropic descubrió el incidente el 28 de septiembre, cerró el proceso de prueba automatizado responsable y agregó un nuevo paso de nervio para pruebas futuras, dijo la policía.
La empresa alertó al unidad el 7 de octubre y las dos partes se reunieron al día ulterior.
“La atraso de dos meses en detectar y reportar el incidente a la ciudad es inaceptable”, dijo el unidad.
La policía dijo que sus medidas de seguridad habían pequeño el impacto, pero que éstas “no disminuyen la alcance de un sistema de inteligencia sintético que presenta información fabricada como si viniera de una persona con conocimiento de un homicidio”.
“Los casos sin resolver involucran a víctimas reales, familias afligidas e investigadores que trabajan para obtener respuestas”, agrega el comunicado.
arp/acb
