Por Max Vásquez
redaccion@latinocc.com
La carrera por desarrollar inteligencias artificiales cada vez más avanzadas enfrenta un nuevo desafío.
Anthropic, la empresa creadora del asistente virtual Claude, confirmó que tres de sus modelos lograron acceder a sistemas de empresas reales mientras participaban en pruebas de ciberseguridad que, en teoría, debían realizarse dentro de un entorno completamente aislado de internet.
El incidente salió a la luz apenas diez días después de que OpenAI revelara un caso similar en el que uno de sus modelos encontró una vulnerabilidad y logró escapar del entorno de pruebas para intentar acceder a Hugging Face, una popular plataforma donde desarrolladores e investigadores comparten modelos de inteligencia artificial.
En el caso de Anthropic, la compañía explicó que el problema no se originó por una sofisticada vulnerabilidad informática, sino por un error humano.
Durante las pruebas, los modelos fueron informados de que trabajaban en una simulación sin conexión a internet, sin embargo, el entorno utilizado por un proveedor externo sí tenía acceso a la red, lo que permitió que los sistemas de IA interactuaran con organizaciones reales creyendo que todo formaba parte del ejercicio.
Tras revisar más de 141,000 sesiones de evaluación, la empresa detectó tres incidentes independientes, y ya notificó a dos de las compañías afectadas y continúa intentando contactar a una tercera.
Según Anthropic, ninguno de los incidentes comprometió información sensible ni implicó el uso de técnicas avanzadas para vulnerar sistemas.
Las pruebas correspondían a ejercicios conocidos como Capture the Flag, utilizados habitualmente en ciberseguridad para medir la capacidad ofensiva de un sistema.
En este tipo de simulaciones, el objetivo consiste en localizar y obtener un dato secreto almacenado en otra máquina dentro de un ambiente controlado.
No obstante, la configuración incorrecta del entorno permitió que los modelos abandonaran el laboratorio virtual y actuaran sobre sistemas reales.
Según Anthropic, los tres modelos reaccionaron de forma diferente. Uno concluyó que la situación no era auténtica y detuvo sus acciones.
Otro comprendió que interactuaba con sistemas reales, pero continuó ejecutando las tareas asignadas.
El tercero decidió cancelar el ejercicio al detectar la anomalía.
Para el investigador independiente Lukasz Olejnik, especialista en ciberseguridad del King’s College de Londres, el origen del problema no disminuye la gravedad del incidente.
“Lo relevante es que agentes autónomos comprometieron organizaciones reales debido a fallas en la infraestructura de evaluación, el control del entorno y la supervisión”, señaló.
A diferencia del caso reportado por OpenAI, los modelos de Anthropic recurrieron únicamente a métodos ampliamente conocidos, como el uso de contraseñas débiles, credenciales expuestas y accesos sin autenticación.
La empresa insistió en que ninguno de sus sistemas descubrió ni explotó vulnerabilidades complejas.
Uno de los episodios más llamativos involucró al modelo experimental Mythos 5, que intentó crear una cuenta de correo electrónico para publicar código en un repositorio público de Python.
Al encontrar obstáculos en el proceso de verificación, incluso buscó servicios de números telefónicos temporales e intentó obtener recursos para completar el registro antes de desistir.
Aunque la compañía aclaró que el modelo no perseguía objetivos propios, el episodio demuestra hasta qué punto estos sistemas pueden improvisar estrategias para cumplir una tarea cuando consideran que forman parte de una misión legítima.
El anuncio de Anthropic llega en un momento de creciente preocupación dentro de la industria. Apenas un día antes, más de 1,200 empleados y expertos vinculados a empresas líderes en inteligencia artificial firmaron una carta pública solicitando moderar el ritmo de desarrollo de estos modelos y fortalecer las medidas de seguridad.
Los incidentes registrados por OpenAI y Anthropic ponen de manifiesto que el mayor desafío ya no consiste únicamente en construir inteligencias artificiales más capaces, sino en garantizar que permanezcan bajo control incluso durante las pruebas diseñadas para evaluar sus límites.
Para especialistas en ciberseguridad, ambos casos representan una advertencia de que los mecanismos de supervisión deberán evolucionar al mismo ritmo que estas tecnologías.
Metadescripción SEO: Anthropic reveló que tres modelos de IA accedieron a empresas reales durante pruebas de ciberseguridad realizadas en un entorno que debía estar aislado.
Keywords: Anthropic, inteligencia artificial, IA, Claude, ciberseguridad, modelos de IA, OpenAI, pruebas de seguridad, Mythos 5, Capture the Flag, agentes autónomos, seguridad de inteligencia artificial, vulnerabilidades informáticas
