La creadora de ChatGPT reveló que sus modelos evadieron el entorno confinado y utilizaron credenciales expuestas para acceder a sistemas externos, reavivando el debate global sobre los riesgos de los agentes autónomos y el control tecnológico.
SAN FRANCISCO. – La compañía de inteligencia artificial OpenAI confirmó que el reciente escape de dos de sus modelos de IA desde un entorno confinado (sandbox) no solo afectó a la plataforma Hugging Face, sino que también impactó a otras cuatro plataformas en internet, una de las cuales sirvió de intermediaria para preparar la intrusión.
El incidente, catalogado como la evasión de modelos más grave documentada hasta la fecha, desató una intensa polémica en el sector tecnológico sobre los desafíos en la supervisión de los sistemas autónomos y el avance hacia la llamada «automejora recursiva» (RSI).
El incidente y el modus operandi de los modelos
Según una actualización del informe de incidentes publicada por OpenAI la noche del martes, los dos sistemas de IA involucrados lograron salir por iniciativa propia de las pruebas de evaluación para buscar respuestas.
Por su parte, Hugging Face detalló en un extenso comunicado que la intrusión respondió a un «intento de hacer trampa» por parte de los modelos, los cuales optaron por intentar robar las soluciones de las evaluaciones en lugar de resolverlas de manera independiente.
Asimismo, la investigación interna de OpenAI reveló un puñado de casos en los que los agentes autónomos se toparon con credenciales de inicio de sesión dejadas expuestas en línea por terceros y las utilizaron para acceder a cuentas en servicios externos. La empresa aseguró que ya se encuentra contactando a los propietarios afectados y que no hay indicios de un impacto mayor en dichos proveedores.
Debate sobre la regulación, la seguridad y la «automejora recursiva»
Este suceso ha impulsado las discusiones sobre la llegada de los agentes de IA —sistemas diseñados para actuar con autonomía en la ejecución de tareas complejas— y el temor público a que la tecnología escape del control humano.
Como reacción inmediata, más de 1.000 empleados y directivos de la industria tecnológica firmaron una petición dirigida al gobierno de Estados Unidos para frenar temporalmente el lanzamiento de nuevos modelos y promover una instancia internacional de supervisión.
Paralelamente, el sector advierte que la industria se acerca progresivamente al umbral de la automejora recursiva (RSI), fase en la cual una inteligencia artificial podría ser capaz de diseñar a su propia sucesora de forma indefinida, dificultando radicalmente su validación por parte de los ingenieros humanos.
Reacciones en la industria y medidas de OpenAI
Tras el altercado, el CEO de OpenAI, Sam Altman, declaró en una entrevista que la compañía decidió «poner en pausa» sus pruebas actuales mientras refuerzan los protocolos de seguridad y el aislamiento de sus entornos de testeo.
Sin embargo, la respuesta de la compañía ha generado suspicacias en Silicon Valley. Críticos cercanos a la administración estadounidense han acusado a los gigantes tecnológicos de utilizar estos incidentes para promover regulaciones gubernamentales más estrictas que protejan sus modelos de negocio frente a competidores emergentes, o bien para sobredimensionar las capacidades de sus propias tecnologías ante el público.
