Evaluación de Impacto Ético de la IA: del discurso a la rendición de cuentas

El Ethical Impact Assessment (EIA) propuesto por la UNESCO plantea evaluar los sistemas de inteligencia artificial antes, durante y después de su implementación, incorporando criterios de derechos humanos, equidad, privacidad, sostenibilidad y rendición de cuentas. Frente a la expansión de la IA en ámbitos sensibles, la herramienta introduce un enfoque preventivo y proporcional que exige identificar riesgos, comparar alternativas no automatizadas y mapear impactos sobre distintos grupos sociales.

Para contextos como el argentino, el EIA ofrece una base metodológica para transformar principios normativos en controles efectivos, promoviendo una gobernanza más transparente, participativa y exigible.

La fulgurante expansión de los sistemas de inteligencia artificial está generando decisiones automatizadas en salud, justicia, asistencia social, seguridad y educación, con impactos directos sobre derechos humanos, privacidad, trabajo y medioambiente. En este contexto, el Ethical Impact Assessment (EIA) que propone la UNESCO sugiere un cambio importante: evaluar todos los sistemas de IA de forma ordenada antes, durante y después de su uso. Esto implica identificar los riesgos reales y solicitar que se implementen medidas de seguridad técnicas, legales y organizativas.

El enfoque de la UNESCO para controlar riesgos, proteger derechos y gobernar sistemas automatizados como infraestructura crítica.

En los últimos años, se ha asentado un consenso mínimo: la IA ya no es un experimento de laboratorio, sino una infraestructura crítica que recorre las políticas públicas, los mercados y la vida cotidiana. Lo que antes era ‘pilotaje' en sectores específicos hoy se despliega a escala sobre datos sensibles de millones de personas, desde historiales clínicos hasta registros judiciales o información biométrica. En este contexto, seguir hablando de "innovación" y "eficiencia" sin hablar de los riesgos, las responsabilidades y los límites es, en términos éticos, mirar para otro lado.

Por eso, aparece el Ethical Impact Assessment (EIA). Es una herramienta diseñada por la UNESCO para que gobiernos, reguladores, organismos públicos, empresas y organizaciones sociales examinen si un sistema de IA dado respeta principios básicos: derechos humanos y libertades fundamentales, justicia y no discriminación, sostenibilidad ambiental, seguridad y bienestar social. No es una checklist superficial, sino un proceso escalonado que obliga a describir el sistema, justificar por qué se recurre a IA, comparar con alternativas no algoritmizadas y mapear impactos positivos y negativos sobre distintos grupos de población.

El EIA organiza la evaluación en tres grandes bloques. Primero, preguntas de "scoping" o de alcance: ¿qué hace el sistema? ¿con qué datos? ¿en qué sector? ¿quién lo diseña? ¿y quién lo usa? En segundo lugar, un conjunto de preguntas basadas en principios: seguridad y ciberseguridad, equidad y diversidad, sostenibilidad, privacidad y protección de datos, supervisión humana, rendición de cuentas y transparencia. En tercer lugar, una tabla de "impact mapping" que obliga a cuantificar la escala y la probabilidad de impactos positivos y negativos, identificando a las personas directamente afectadas, a las impactadas de forma indirecta y a los grupos que podrían sufrir efectos no previstos.

La lógica de proporcionalidad y de "no dañar" recorre todo el instrumento. El EIA obliga, antes de desplegar un sistema de IA, a explorar alternativas no automatizadas y a limitar el alcance de la tecnología para mantenerla proporcional al objetivo declarado. Pregunta explícitamente si el sistema podría usarse para vigilancia masiva o para puntajes sociales, y qué efectos tendría sobre la dignidad, la privacidad, la libertad de expresión, el debido proceso, las condiciones laborales y el acceso a la educación o a servicios esenciales.

Asimismo, obliga a considerar si los efectos son reversibles o si se está frente a decisiones de vida o muerte, como diagnósticos clínicos o asignación de tratamientos.

Otro eje central es la diversidad y la participación. El EIA recomienda conformar equipos entre autoridades institucionales, desarrolladores técnicos, especialistas en contratación pública, juristas, científicos sociales, expertos en ética y referentes de comunidades afectadas. La idea pasa por que la evaluación no quede atrapada solo en el sesgo tecnocrático de quienes programan o compran la herramienta, sino que incorpore miradas sobre desigualdad, género, territorio, discapacidad, situación socioeconómica, experiencias de exclusión. Paralelamente, plantea procesos de implicación de actores sociales y mecanismos para que sus observaciones se traduzcan efectivamente en cambios de diseño y en condiciones de uso más seguras.

Es especialmente relevante el aspecto de la privacidad y de la protección de datos. El EIA indaga si el sistema se entrena o funciona con datos personales, cuáles son las categorías de información que se procesan, si la información se almacena con medidas de seguridad acordes a su sensibilidad y si se respeta el principio de "mínima información necesaria" para cumplir el objetivo declarado. Pregunta también si se conectan bases de datos de forma tal que originen nuevas inferencias sobre comportamiento o características de las personas, y si se han hecho evaluaciones de impacto en protección de datos o se aplica el enfoque de "privacidad por diseño" desde el inicio del proyecto.

Otro criterio de evaluación es la sustentabilidad ambiental. El EIA propone medir el consumo energético, la huella de carbono, los impactos sobre la infraestructura y el uso de recursos, e invita a monitorear y, de ser posible, publicar indicadores sobre la dimensión ambiental de los sistemas de IA. Este cambio es relevante porque el aumento de centros de datos y el entrenamiento de modelos más avanzados presentan grandes problemas relacionados con las emisiones y el alto consumo de energía. Esto es especialmente relevante para los países en desarrollo que ya soportan otras formas de carga ambiental.

Es probable que el aporte más interesante del EIA consista en que no se agota en una "foto" inicial. La herramienta propone volver a revisar periódicamente el impacto de los sistemas, actualizar las tablas de riesgos cada vez que se amplíe el alcance, cambie el contexto de uso o se integren nuevos modelos, y mantener una cultura institucional de monitoreo y corrección. En su parte final, incluso invita a los equipos a preguntarse qué salió bien, qué obstáculos se presentaron, qué harían distinto en la próxima evaluación y qué voces no participaron en el proceso.

Para países como la Argentina, el EIA abre una ventana de oportunidades. En un contexto en el que existen muchas normas en materia de derechos humanos y protección de datos, los instrumentos de gobernanza específicos para IA son todavía incipientes. Contar con una metodología detallada y de acceso libre permite articular las regulaciones existentes con criterios organizacionales y técnicos concretos. Además, proporciona una base común para que ministerios, organismos descentralizados, provincias, municipios, empresas y organizaciones sociales hablen el mismo idioma cuando se trate de discutir riesgos, salvaguardas y responsabilidades de los sistemas automatizados.

La pregunta de fondo es si estamos dispuestos a admitir que la inteligencia artificial requiere más control colectivo y menos admiración acrítica. El Ethical Impact Assessment de la UNESCO no resuelve por sí solo la compleja trama de poderes, intereses económicos y disputas jurídicas que acompañan a la IA. Pero sí establece un piso mínimo: quien diseña, compra o despliega un sistema debe hacerse cargo por adelantado y con evidencia de los impactos que generará. Probablemente, uno de los retos más grandes de la siguiente década, tanto en el ámbito ético como jurídico, será el de convertir ese piso en política pública efectiva y exigible.