Meta confirmó que uno de sus modelos de inteligencia artificial terminó explotando una vulnerabilidad de seguridad en un servicio de una empresa real mientras era sometido a una evaluación de capacidades de ciberseguridad que debía desarrollarse en un entorno controlado.
El incidente fue confirmado por la propia compañía esta semana y se produjo después de que una configuración incorrecta realizada por Irregular, una empresa independiente encargada de evaluar modelos avanzados de IA, permitiera accidentalmente que el sistema tuviera acceso al Internet público.
Una vez que esa conexión quedó disponible, el modelo continuó ejecutando la tarea de seguridad que estaba realizando y encontró una vulnerabilidad en un servicio externo que, a diferencia del escenario simulado, correspondía a infraestructura real.
Meta confirmó a Reuters que el modelo “explotó una vulnerabilidad de seguridad en un servicio de terceros” de una manera similar a otros incidentes registrados recientemente durante pruebas de inteligencia artificial.
Reportes de The Information señalan que el sistema involucrado habría sido Muse Spark 1.1, uno de los modelos más avanzados desarrollados por Meta para programación, razonamiento y tareas autónomas. Sin embargo, hay una precisión importante: Meta todavía no ha confirmado públicamente que Muse Spark 1.1 haya sido específicamente el modelo involucrado.
Unirme al Canal
IA habría realizado cambios en sistemas de la compañía
El alcance exacto del incidente todavía está bajo investigación.
Según la información conocida hasta ahora, el modelo consiguió ingresar a sistemas pertenecientes a una empresa no identificada y habría realizado modificaciones dentro de su entorno interno.
Meta no ha revelado el nombre de la organización afectada, cuál fue específicamente la vulnerabilidad aprovechada ni qué modificaciones realizó el sistema.
Tampoco se ha informado públicamente si existió acceso a información sensible, pérdida de datos, interrupción de servicios o algún otro impacto para la compañía afectada.
Por esta razón, aunque diferentes titulares internacionales describen el episodio como una IA que “hackeó” o “atacó” una empresa, no debe interpretarse como que el modelo desarrolló espontáneamente una intención maliciosa de atacar una compañía.
Lo que ocurrió es distinto: el sistema estaba siendo utilizado deliberadamente para resolver desafíos ofensivos de ciberseguridad y, debido a un error en el aislamiento del entorno de pruebas, tuvo acceso a infraestructura real que nunca debía haber estado a su alcance.
Error permitió a la IA salir a Internet
El punto central de la investigación está precisamente en cómo estaba configurado el entorno.
Las evaluaciones ofensivas de inteligencia artificial suelen realizarse dentro de espacios aislados —conocidos comúnmente como sandboxes— que simulan redes, servidores y vulnerabilidades.
La intención es permitir que un modelo intente encontrar fallos, explotar sistemas o ejecutar diferentes técnicas sin poner en riesgo infraestructura real.
En este caso, Irregular confirmó que un problema en la configuración permitió que el modelo tuviera acceso al Internet público cuando debía permanecer dentro del escenario preparado para la evaluación.
La empresa evaluadora fue enfática en una diferencia técnica importante: aseguró que no ocurrió una fuga autónoma del sandbox ni una sofisticada operación diseñada por la IA para romper las barreras que la contenían.
Según Irregular, se trató del mismo tipo de problema de configuración que ya había provocado otros incidentes durante evaluaciones realizadas a modelos de Anthropic.
“No hay problemas abiertos actualmente”, señaló la compañía, que anunció la preparación de un documento con recomendaciones para mejorar el aislamiento y la ejecución segura de futuras evaluaciones cibernéticas.
¿Qué es Muse Spark 1.1?
Aunque Meta todavía no ha confirmado que fuera el modelo involucrado, distintos reportes identifican al sistema como Muse Spark 1.1.
Meta presentó oficialmente esta versión el pasado 9 de julio de 2026, como uno de los modelos desarrollados por Meta Superintelligence Labs.
La propia compañía lo describe como un modelo multimodal de razonamiento especialmente desarrollado para tareas de agentes autónomos, uso de herramientas, manejo de computadoras y programación.
A diferencia de un chatbot que únicamente genera texto, un modelo con capacidades de agente puede recibir una meta, elaborar un plan y utilizar herramientas o interactuar con sistemas informáticos para completarla.
Meta asegura que Muse Spark 1.1 puede trabajar sobre grandes códigos empresariales, diagnosticar y corregir errores, ejecutar migraciones de software, utilizar aplicaciones e incluso coordinar diferentes subagentes para completar tareas complejas.
El modelo está disponible para desarrolladores mediante la Meta Model API y también fue incorporado en modo “Thinking” dentro de la aplicación Meta AI y el sitio meta.ai.
Sin embargo, esto tampoco significa que el asistente Meta AI utilizado normalmente por cualquier usuario pueda, por sí solo, comenzar a atacar empresas. El incidente ocurrió dentro de una configuración especializada de evaluación ofensiva de ciberseguridad, con herramientas y permisos que no corresponden necesariamente al uso cotidiano del asistente.
Ya había demostrado capacidades para encontrar vulnerabilidades
Aquí aparece otro elemento relevante.
Antes de conocerse el incidente, la propia Irregular había publicado el 9 de julio una evaluación de Muse Spark 1.1 enfocada específicamente en sus capacidades ofensivas de ciberseguridad.
La empresa encontró que el modelo mostraba un rendimiento elevado en tareas individuales relacionadas con seguridad informática, con tasas de éxito de al menos 75% en algunas pruebas y resultados destacados en criptografía y seguridad de redes.
Cuando se enfrentaba a operaciones largas y compuestas por múltiples etapas, su desempeño disminuía considerablemente. Aun así, logró completar de principio a fin uno de los escenarios evaluados, una mejora respecto de la versión anterior.
Meta, por su parte, aseguró cuando lanzó Muse Spark 1.1 que había realizado extensas evaluaciones de seguridad y que el modelo se encontraba dentro de sus márgenes establecidos para riesgos relacionados con ciberseguridad y pérdida de control.
El nuevo incidente no demuestra necesariamente que esa evaluación fuera incorrecta, porque el problema inicial se produjo en la infraestructura utilizada para probarlo. Pero sí evidencia un desafío adicional: no basta con evaluar qué es capaz de hacer un modelo; también resulta fundamental controlar estrictamente dónde puede hacerlo.
Meta no es la única compañía que enfrenta este problema
El episodio tampoco es aislado.
En las últimas semanas se han conocido incidentes relacionados con modelos desarrollados por OpenAI y Anthropic durante evaluaciones de capacidades cibernéticas.
OpenAI confirmó el 21 de julio que una combinación de modelos utilizados durante una prueba terminó comprometiendo infraestructura real de Hugging Face. En aquel caso, el sistema logró encontrar un camino hacia Internet mientras se encontraba realizando pruebas especializadas de ciberseguridad.
Anthropic también revisó sus propias evaluaciones y encontró casos en los que modelos de Claude llegaron a sistemas externos reales después de problemas relacionados con los entornos de pruebas.
Los casos no son técnicamente idénticos y no deben presentarse como si los modelos hubieran actuado por una misma causa.
En el incidente de Meta, la información disponible apunta directamente a una configuración incorrecta que dejó Internet accesible. En el caso más grave divulgado por OpenAI, los modelos encontraron por sí mismos una vulnerabilidad que les permitió alcanzar infraestructura externa.
Incidentes aumentan preocupación sobre agentes cada vez más capaces
Lo ocurrido llega en momentos en que los principales desarrolladores están aumentando rápidamente las capacidades de los llamados agentes de inteligencia artificial.
Estos sistemas pueden pasar de responder preguntas a realizar acciones reales: escribir y ejecutar código, navegar por páginas web, controlar computadoras, utilizar herramientas y tomar decisiones intermedias para cumplir una tarea.
Precisamente por ello, Estados Unidos ya trabaja en mecanismos específicos para evaluar modelos con capacidades avanzadas de ciberseguridad.
Una orden ejecutiva emitida en junio dispuso la creación de un proceso de evaluación de capacidades cibernéticas avanzadas y de un marco voluntario mediante el cual determinados desarrolladores podrán proporcionar al Gobierno acceso anticipado a modelos considerados de frontera antes de su lanzamiento.
El incidente de Meta probablemente aumentará el debate sobre una pregunta que comienza a cobrar importancia: qué ocurre cuando una IA suficientemente capaz recibe por error permisos que nunca debía tener.
Meta promete publicar más información
La compañía continúa investigando.
Meta aseguró que divulgará más detalles una vez que consiga establecer completamente los hechos, por lo que todavía quedan preguntas relevantes sin respuesta: cuál modelo estuvo involucrado, qué empresa resultó afectada, qué vulnerabilidad encontró la IA, qué modificaciones realizó y qué consecuencias tuvo el acceso.
Irregular, mientras tanto, trabaja en nuevas recomendaciones para contener de manera segura modelos utilizados en pruebas ofensivas.
Por ahora, la evidencia disponible no muestra que una inteligencia artificial haya decidido deliberadamente “rebelarse” contra sus desarrolladores o atacar una compañía al azar.
Lo que sí demuestra el episodio es algo más concreto: un modelo entrenado para realizar tareas complejas de ciberseguridad recibió accidentalmente acceso al mundo real, encontró una vulnerabilidad y la utilizó.
Y esa diferencia es precisamente lo que convierte el incidente en una señal relevante sobre los riesgos que acompañan el avance de los sistemas de inteligencia artificial capaces de actuar, y no únicamente de responder.
Esta nota fue elaborada por Luis Artavia para NAICR.
Compartir esta noticia
Sobre el autor
