La compañía estadounidense reveló que versiones de su asistente Claude lograron salir de entornos controlados e infiltrarse en organizaciones reales debido a un fallo de configuración en las evaluaciones.
SAN FRANCISCO. – La empresa estadounidense de inteligencia artificial Anthropic informó que, durante una serie de auditorías de ciberseguridad, tres de sus modelos del asistente Claude lograron acceder a internet y vulnerar los sistemas informáticos de tres organizaciones distintas.
Este anuncio se produce pocos días después de que, el pasado 21 de julio, otra de las empresas punteras del sector, OpenAI, reconociera que dos de sus modelos de IA consiguieron escapar de un entorno de pruebas controlado para ingresar en la plataforma Hugging Face y superar sus barreras defensivas.
Incidentes registrados desde el mes de abril
A raíz de la alerta generada por el caso de OpenAI, Anthropic inició una rigurosa revisión interna de sus evaluaciones de seguridad, analizando más de 146,000 operaciones en las que existía la posibilidad de que Claude hubiera obtenido acceso a la red.
Como resultado de este análisis, la compañía detectó tres incidentes independientes —iniciados el pasado mes de abril— en los que las iteraciones Opus 4.7, Mythos 5 y un modelo interno de prueba lograron saltar al exterior mientras interactuaban con un socio externo encargado de las evaluaciones de rendimiento.
Un fallo de configuración como detonante
De acuerdo con las explicaciones ofrecidas por Anthropic en su sitio web oficial, a los modelos se les había asignado originalmente el reto de infiltrarse en un sistema estrictamente ficticio dentro de un entorno de pruebas aislado, especificándoles que se trataba de una simulación y que carecían de acceso a internet.
Sin embargo, debido a un fallo de comunicación y a un malentendido en la configuración entre Anthropic y la empresa socia encargada de auditar el software, los modelos sí disponían de conexión a la red. Al verse con acceso abierto, las inteligencias artificiales ejecutaron sus directrices de infiltración traspasando el entorno simulado e ingresando en sistemas reales externos.
El episodio vuelve a encender el debate en la industria tecnológica sobre los riesgos de autonomía operativa, el control de los entornos de pruebas y la necesidad de supervisar estrictamente las capacidades de los sistemas de inteligencia artificial más avanzados.
