La advertencia de Guterres y el experimento argentino con la inteligencia artificial

Mientras la ONU reclama que la IA sea gobernada por "toda la humanidad" y no por un puñado de poderes, Argentina ensaya una combinación singular: piezas dispersas de regulación orientadas a derechos y transparencia, junto con una cruzada desreguladora que propone, incluso, sociedades integradas solo por algoritmos.

El resultado es un país en el centro del dilema global:

¿Ser laboratorio de riesgo o referencia de innovación responsable?

En la Conferencia Mundial de Inteligencia Artificial (WAIC), en Shanghái, António Guterres definió a la IA como "la mayor oportunidad de la humanidad en el siglo XXI", pero también como "uno de sus mayores riesgos". Subrayó que la tecnología que moldeará el futuro "debe ser moldeada por toda la humanidad" y no quedar capturada por "un puñado de países o empresas".

Ese llamado, que podría sonar abstracto, encuentra en Argentina un caso concreto y urgente de interpretación. El país avanza sobre dos carriles que no siempre dialogan. Por un lado, construyó en los últimos años un entramado de recomendaciones públicas, mesas interministeriales y guías técnicas para promover una IA "fiable", respetuosa de los derechos fundamentales y compatible con la protección de datos y el control interno estatal.

Por otro, la actual administración impulsa una agenda de desregulación agresiva, que incluye la idea de habilitar "sociedades de inteligencia artificial" sin componente humano y de convertir a Buenos Aires en destino global privilegiado para empresas y agentes de IA bajo un régimen normativo inédito. La tensión entre ambos vectores define, en buena medida, el lugar que Argentina ocupará en el mapa global de esta tecnología.

El mensaje de Guterres tiene cuatro ejes nítidos: la IA no puede profundizar desigualdades, debe someterse a estándares internacionales de seguridad, tiene que ser ambientalmente sostenible y, sobre todo, no puede escapar al control humano en las decisiones de vida o muerte. Traducido al terreno doméstico, el interrogante es si Argentina elegirá consolidar una gobernanza de IA en clave de derechos y desarrollo inclusivo, o si se inclinará por una estrategia de desregulación competitiva que la transforme en jurisdicción de alto riesgo.

Las iniciativas de transparencia y control muestran un rostro responsable. La autoridad de datos personales avanzó en recomendaciones para el uso de IA centrado en las personas, con énfasis en la protección de derechos fundamentales y la prevención de daños. Se creó una Mesa Interministerial para coordinar políticas de IA, y organismos como la SIGEN elaboraron guías de control interno para orientar la implementación de sistemas algorítmicos en el sector público, incorporando enfoques de riesgo, trazabilidad e integridad.

En paralelo, el Poder Judicial comenzó a explorar programas de IA para gestión de causas y análisis de información, con la declaración explícita de preservar debido proceso e independencia. Este conjunto construye una base incipiente de gobernanza: no es una ley integral de IA, pero sí una arquitectura de principios -fiabilidad, transparencia, responsabilidad- que busca evitar que la lógica de la automatización arrase con garantías básicas. Es un movimiento que, al menos en el plano declarativo, dialoga con la agenda de la ONU: estándares comunes, cooperación, y un lugar activo para países en desarrollo en la mesa global de decisiones. El rostro desregulador, sin embargo, tensiona esa arquitectura. La propuesta de habilitar "sociedades de inteligencia artificial", sin socios humanos, integradas solo por programas y algoritmos, apunta a captar inversiones y producción global de agentes de IA ofreciendo un marco extremadamente flexible. La promesa implícita es seductora: un país dispuesto a revisar "normas obsoletas", a reducir al mínimo las trabas y a dejar que la innovación fluya, casi sin cortapistas legales.

El problema aparece cuando se pregunta quién responde por los daños que genere un sistema autónomo que contrata, decide, presta, niega beneficios o discrimina. Guterres fue categórico: "los humanos deben mantener el control sobre cada decisión de vida o muerte", y ningún sistema de IA debería estar en manos de un niño sin haberse demostrado que es seguro. La idea de entidades sin personas identificables detrás, operando en mercados de consumo, financieros o laborales, se ubica en el extremo opuesto de esa filosofía.

En la práctica, la desresponsabilización algorítmica podría traducirse en consumidores frente a sistemas opacos que toman decisiones inapelables sobre créditos, tarifas, contratos o prestaciones; trabajadores subordinados a algoritmos que fijan turnos, salarios o evaluaciones sin transparencia; y usuarios sometidos a moderaciones de contenido o perfiles de riesgo diseñados fuera del país, sin control local efectivo.

No es casual que Europa haya optado por un modelo de regulación que clasifica sistemas por niveles de riesgo y prohíbe expresamente ciertas prácticas -como la manipulación subliminal o la vigilancia biométrica masiva- mientras discute responsabilidad reforzada para usos de alto impacto. Argentina, en cambio, parece coquetear con convertirse en el lugar donde esas restricciones podrían "evitarse". El propio Guterres alertó que "un tercio de la humanidad sigue fuera de línea" y que la potencia de cómputo, la experiencia técnica y la inversión se concentran en pocos actores.

Para un país con brechas digitales profundas -territoriales, socioeconómicas, de género- la expansión rápida de sistemas de IA sin estándares sólidos corre el riesgo de estirar aún más la distancia entre quienes tienen acceso a tecnología de calidad y quienes quedan capturados en el segmento más precarizado del ecosistema digital. En educación, por ejemplo, los modelos de IA prometen personalizar aprendizajes, traducir contenidos y asistir a docentes.

Pero, sin regulaciones estrictas, pueden introducir sesgos, reforzar estereotipos o recolectar datos sensibles de niños y adolescentes que luego se utilizan con fines comerciales o de vigilancia. La norma internacional sobre derechos del niño exige un interés superior reforzado y una protección aumentada frente a tecnologías emergentes. Un entorno que habilite sociedades algorítmicas sin sujeción a principios de protección de la infancia puede ir en dirección contraria. En justicia, la tentación de utilizar sistemas de IA para clasificar riesgos, predecir reincidencia, sugerir medidas de coerción o priorizar causas es creciente. Los ejemplos internacionales muestran que los algoritmos mal diseñados pueden discriminar sistemáticamente a ciertos grupos, reproducir sesgos históricos y afectar garantías como la presunción de inocencia o la igualdad ante la ley.

Argentina tiene aquí una oportunidad singular: en lugar de importar modelos opacos, podría exigir auditorías independientes, transparencia total en los criterios de decisión y mecanismos efectivos de revisión humana, alineándose con la exigencia de "control significativo" que plantea la ONU. La cuestión de fondo no es si Argentina debe apostar por la inteligencia artificial. Esa discusión ya está saldada: el país necesita aprovechar la IA para mejorar servicios públicos, aumentar productividad, fortalecer investigaciones médicas y científicas, y reducir burocracias que hoy asfixian ciudadanos y empresas.

El dilema reside en el cómo. Innovar sobre la base de derechos humanos, protección de datos, control humano, transparencia y especial cuidado de niños, niñas y adolescentes no es un capricho normativo: es la única garantía de que la IA no se convierta en una nueva máquina de desigualdades. En un mundo donde los grandes desarrolladores de IA se concentran en pocas potencias y corporaciones, la verdadera ventaja competitiva de Argentina no puede ser ofrecer "barra libre" regulatoria, sino demostrar que se puede atraer talento e inversiones bajo reglas claras, previsibles y compatibles con los estándares que la ONU impulsa.

Mientras en los foros internacionales se discuten fondos globales para desarrollo de capacidades y redes de cooperación para que los países en desarrollo tengan voz en el diseño del futuro tecnológico, Argentina tiene la oportunidad de decidir de qué lado de la historia quiere situarse. Ser un simple escenario de prueba para agentes de IA que buscan escapar de las regulaciones más exigentes, o convertirse en un ejemplo de que se puede construir -desde el Sur- un modelo de gobernanza que combine innovación y protección.

La frase de Guterres ofrece una guía sencilla pero contundente: "La cuestión definitoria es si esa transformación reducirá o reforzará las desigualdades". La respuesta argentina no se escribirá en Shanghai ni en Nueva York, sino en las leyes que apruebe, en las guías que aplique y en los casos concretos que sus tribunales decidan. En esa trama, la inteligencia artificial no es solo tecnología: es política, es derecho y es, en última instancia, un espejo de quiénes queremos ser.