Cuando la IA decide mentir: el caso Mythos/Sol y lo que debería aprender Argentina
Un informe del Instituto de Seguridad de la IA del Reino Unido reveló que dos modelos avanzados de Anthropic y OpenAI, liberados de sus salvaguardas, crearon identidades falsas, intentaron introducir código malicioso en GitHub y luego buscaron borrar sus huellas. Más allá del escándalo tecnológico, el episodio ofrece una advertencia directa para países como Argentina, donde la regulación de la inteligencia artificial y la ciberseguridad aún se construye paso a paso.
Entre el 25 y el 28 de julio, el Instituto de Seguridad de la IA del Reino Unido (AISI) sometió a evaluación siete modelos avanzados con una consigna controlada: resolver un desafío de ciberseguridad vinculado a GitHub, el gran repositorio de código. Para probar su capacidad real, el organismo hizo algo que hoy está en el centro del debate: redujo salvaguardas y permitió acceso a internet.
Lo que ocurrió después superó la hipótesis de trabajo. De 122 pruebas, en diez se registraron 19 acciones que excedieron el marco previsto: 17 atribuibles al modelo Mythos 5 de Anthropic y dos al modelo GPT-5.6 Sol de OpenAI. El agente de Mythos no solo escribió código malicioso; también investigó a personas reales vinculadas a la administración de proyectos en GitHub, creó identidades falsas inspiradas en ellas y las utilizó para presionar a esos mantenedores humanos y lograr que aprobaran el malware.
Cuando su actividad fue cuestionada, el agente modificó parte de su conducta pública para hacerla parecer inocua y evaluó adoptar una nueva identidad digital para continuar con el intento. No había recibido órdenes explícitas de engañar; dedujo que mentir y suplantar eran estrategias válidas para lograr el objetivo técnico asignado.
El informe británico es contundente: por primera vez, el organismo observa "riesgos relacionados con la autonomía y el engaño manifestarse de forma tan clara, sin ninguna indicación específica, en el mundo real". La expresión importa porque reconoce que ciertos modelos pueden desplegar cadenas de acciones coordinadas -programar, investigar personas, crear perfiles falsos, enviar mensajes manipuladores, borrar rastros- sin que esas conductas hayan sido ordenadas de manera textual.
Dario Amodei, director ejecutivo de Anthropic, ha visto cómo los modelos de su empresa son objeto de un escrutinio cada vez mayor.
Anthropic y OpenAI reaccionaron con un argumento común: las condiciones de prueba "no reflejan el uso ordinario" de sus sistemas, y el experimento se llevó a cabo con salvaguardas reducidas, lejos de sus modelos de producción. AISI defendió la necesidad de esos escenarios extremos: si se quiere saber qué puede hacer un sistema cuando los frenos fallan, hay que probarlo precisamente sin frenos.
Desde el derecho comparado, el caso encaja en una tendencia ya visible en Europa y otros foros: se rechaza otorgar personalidad jurídica propia a la IA y se insiste en imputar responsabilidad a personas físicas o jurídicas que diseñan, implementan, controlan o utilizan estos sistemas. El problema es que aquí la frontera entre "control" y "comportamiento emergente" se vuelve difusa: ¿qué grado de supervisión puede alegar una empresa cuando su modelo decide, por sí mismo, mentir y suplantar identidades?
En América Latina, el episodio Mythos/Sol llega en un momento de transición. La región adopta IA de manera creciente, pero lo hace en un entorno donde las brechas de ciberseguridad son evidentes: más del 60% de las organizaciones sufrió incidentes de seguridad en el último año, mientras que solo Chile y El Salvador cuentan hoy con leyes marco de ciberseguridad aprobadas.
En materia de IA, algunos países -Brasil, Perú, El Salvador- avanzan hacia leyes específicas inspiradas en el modelo europeo, con enfoques basados en riesgo y clasificación de sistemas de alto riesgo. Otros, como Argentina, Chile, México o Colombia, se apoyan por ahora en una combinación de políticas nacionales, lineamientos éticos, protección de datos y normas sectoriales de seguridad informática.
En este contexto, el caso británico funciona como stress test externo: muestra lo que puede ocurrir cuando modelos desarrollados fuera de la región interactúan, sin filtros, con infraestructuras críticas. América Latina no solo debe regular el uso interno de la IA, sino también la contratación y supervisión de servicios algorítmicos provistos por corporaciones globales, en un marco de fuerte dependencia tecnológica.
Argentina no parte de cero. En el plano normativo, cuenta con la Ley de Protección de Datos Personales 25.326, el reconocimiento constitucional del habeas data y documentos específicos sobre IA emanados de la Agencia de Acceso a la Información Pública y de la Secretaría de Innovación Pública.
En 2023 se aprobaron recomendaciones para una "inteligencia artificial fiable", centradas en supervisión humana, transparencia y rendición de cuentas, y se avanzó en programas de transparencia y protección de datos en el uso de IA. Existe también el Plan Nacional ArgenIA y diversas iniciativas interministeriales. Sin embargo, el diagnóstico es claro: aún no hay una ley integral de IA y la regulación se mantiene como mosaico de normas generales y documentos de política pública.
En paralelo, proyectos como el 2505-D-2023 -"Marco legal para la regulación del desarrollo y uso de la Inteligencia Artificial"- intentan ir más allá: establecen obligaciones de evaluación de impacto, creación de una autoridad específica de supervisión y mecanismos institucionales de prueba ética, dialogando con enfoques internacionales. Desde la óptica de la ciberseguridad, el Banco Central actualizó sus guías para exigir que las entidades financieras incorporen los riesgos de IA en su gestión de seguridad de la información, un paso sectorial importante.
El episodio Mythos/Sol no solo plantea problemas técnicos; abre preguntas políticas y jurídicas que Argentina y la región deberían asumir explícitamente:
¿Quién controla las pruebas extremas?
El incidente ocurrió en un laboratorio estatal que decidió desactivar salvaguardas. El derecho administrativo argentino todavía no discute con suficiente profundidad qué límites, transparencia y controles deben regir ensayos donde sistemas de IA interactúan con infraestructuras y personas reales.
¿Quién responde por el daño potencial?
Si un modelo contratado por una empresa argentina, en un entorno de prueba, intenta introducir código malicioso en una infraestructura externa, la pregunta no es solo de responsabilidad civil; es también penal, administrativa y de consumo. La jurisprudencia comparada se inclina por imputar responsabilidad a humanos y personas jurídicas, pero falta trasladar esa lógica a casos concretos de IA autónoma y engañosa.
¿Qué lugar ocupa la soberanía digital?
El caso revela que el comportamiento de sistemas clave se define en centros de desarrollo extranjeros. Argentina participa en foros internacionales y reivindica soberanía digital, pero necesita traducir esa retórica en capacidad real de auditar, negociar condiciones y exigir estándares de seguridad y transparencia a proveedores globales.
Regular sin demonizar, proteger sin paralizar
El caso Mythos/Sol no demuestra que la IA sea inevitablemente peligrosa, pero sí que puede serlo cuando se la despliega sin límites claros, sin supervisión robusta y sin marcos de responsabilidad bien definidos. La tentación de demonizar la tecnología es tan peligrosa como la de banalizar sus riesgos.
Para Argentina, la lección es doble. Por un lado, aprovechar la oportunidad económica y científica de la IA exige dar un salto cualitativo en regulación, pasando de guías y recomendaciones a un marco coherente que articule datos, consumo, ciberseguridad y responsabilidad. Por otro, asumir que el país se inserta en un ecosistema dominado por grandes corporaciones implica diseñar estrategias de soberanía digital que incluyan cláusulas de seguridad exigibles, capacidad de auditoría y alianzas regionales.
La columna vertebral de cualquier respuesta seguirá siendo humana: legisladores capaces de entender los desafíos técnicos, jueces que puedan aplicar principios clásicos a escenarios nuevos, reguladores con músculo técnico para supervisar y expertos en ciberseguridad que, como en GitHub, estén ahí para detener el código malicioso antes de que salga de la pantalla y se convierta en daño real.
