UNESCO: Recomendación sobre la Ética en la IA

Recientemente se concedió a Quanam que yo, en mi condición de Chief Compliance Officer fuese elegido para la responsabilidad de Vicepresidente del Consejo Empresarial para la Ética en la Inteligencia Artificial en su Capítulo Uruguay. Nuestro pequeño país fue elegido para realizar como Proyecto Piloto esta iniciativa por primera vez en América Latina, con el objetivo de complementar los esfuerzos sostenidos de la UNESCO y otras organizaciones públicas y privadas a nivel mundial, preocupadas por incorporar al progresivo despliegue de Sistemas de Inteligencia Artificial consideraciones éticas y recomendaciones de gobernanza acorde con los principios y valores sostenidos por la UNESCO y sus Estados Miembros, detallados en su “Recomendación”.

La “Recomendación sobre la Ética de la Inteligencia Artificial” de la UNESCO, es un documento fundamental aprobado por la Conferencia General de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) en su 41ª reunión, reunida en París del 9 al 24 de noviembre de 2021. Se trata de un instrumento normativo de alcance mundial, dirigido principalmente a los Estados Miembros, cuya aplicación es voluntaria, pero que busca orientar también al sector privado, a la academia y a la sociedad civil.

En este artículo hemos asumido la tarea de reproducir las principales ideas, conceptos, principios y medidas recomendadas con enorme riqueza de contenido en este completísimo documento. En algunos casos hemos resumido sucintamente y en otros casos hemos reproducido literalmente algunas frases del documento que nos han parecido esenciales. El objetivo es simplemente entregar a los lectores una versión resumida de este documento de la UNESCO, con la abierta intención de estimular no solamente su lectura completa, sino su aplicación en la práctica por parte de todos los actores de la Inteligencia Artificial, especialmente en América Latina.

Resumen ejecutivo

La Recomendación aborda la ética de la IA como una reflexión normativa sistemática, basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes, que puede guiar a las sociedades a la hora de afrontar de manera responsable los efectos conocidos y desconocidos de las tecnologías de la IA en los seres humanos, las sociedades y el medio ambiente y los ecosistemas, ofreciéndoles una base para aceptar o rechazar las tecnologías de la IA.

Parte de una idea central: la IA puede generar beneficios muy importantes para la humanidad, pero también riesgos profundos para la dignidad humana, los derechos humanos, la igualdad, la democracia, la diversidad cultural y el medio ambiente. Por eso, la UNESCO propone que la IA no sea gobernada sólo por criterios de eficiencia, innovación o mercado, sino por un marco ético universal, basado en derechos, inclusión, equidad, sostenibilidad y responsabilidad.

La Recomendación no intenta fijar una única definición “cerrada” de IA. Prefiere un enfoque funcional y dinámico: entiende la IA como sistemas capaces de procesar datos e información de manera que se asemeja a un comportamiento inteligente, y abarca generalmente aspectos de razonamiento, aprendizaje, percepción, predicción, planificación y control. Y analiza sus implicancias éticas a lo largo de todo su ciclo de vida: investigación, diseño, desarrollo, despliegue, uso, mantenimiento, evaluación, comercialización y retiro. Ese enfoque es relevante porque la ética, para la UNESCO, no se limita al momento del uso final del sistema, sino que atraviesa toda la cadena de decisiones técnicas, organizacionales y regulatorias.

Finalidad de la Recomendación

Su finalidad principal es poner los Sistemas de IA al servicio de la humanidad, las personas, las sociedades y el ambiente, previniendo daños y promoviendo usos pacíficos. Además, busca ofrecer no sólo principios abstractos, sino también recomendaciones concretas de política pública, con especial énfasis en inclusión, igualdad de género, protección ambiental, diálogo intercultural y acceso equitativo a los beneficios de la IA, especialmente para países menos favorecidos o con menor preparación tecnológica.

Los cuatro valores fundamentales

La Recomendación se apoya en cuatro grandes valores:

1. Respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana.
   La IA debe reforzar, y nunca erosionar, la dignidad inviolable e intrínseca de todo ser humano, que constituye la base del sistema universal, indivisible, inalienable, interdependiente e interrelacionado de derechos humanos y libertades fundamentales. Ningún individuo o comunidad debería sufrir daños físicos, económicos, sociales, políticos, culturales o mentales por causa de sistemas de IA.

En el marco de sus interacciones con Sistemas de IA, las personas nunca deberían ser cosificadas, su dignidad no debería ser menoscabada de ninguna otra manera, y sus derechos humanos y libertades fundamentales nunca deberían ser objeto de violación o abusos.

2. Prosperidad del medio ambiente y los ecosistemas.
   La UNESCO incorpora de forma expresa la dimensión ambiental: la IA debe desarrollarse y usarse reduciendo su huella de carbono y evitando contribuir al deterioro ambiental o al uso no sostenible de recursos naturales.

Todos los actores que participan en el ciclo de vida de los Sistemas de IA deben respetar el derecho internacional y las leyes, normas y prácticas nacionales aplicables, como la precaución, concebidas para la protección y la restauración del medio ambiente y los ecosistemas y para el desarrollo sostenible.

3. Diversidad e inclusión.
   La IA debe diseñarse y gobernarse de manera que incluya activamente a todas las personas y grupos, sin exclusión por raza, color, ascendencia, género, edad, idioma, religión, opiniones políticas, origen nacional, étnico o social, condición económica o social de nacimiento, discapacidad o cualquier otro motivo. También se subraya la necesidad de cerrar brechas de infraestructura, educación, capacidades tecnológicas y acceso principalmente mediante la cooperación internacional y especialmente con los países de menores recursos.

4. Sociedades pacíficas, justas e interconectadas.
   La UNESCO concibe la IA como una tecnología que debería fortalecer la solidaridad, la paz, la justicia y la convivencia; no profundizar divisiones, no cosificar personas ni debilitar su autonomía y seguridad. Los actores de la IA deberían propiciar sociedades pacíficas y justas, sobre la base de un futuro interconectado en beneficio de todos, compatible con los derechos humanos y las libertades fundamentales, y participar en su construcción.

Los principios éticos que deberían regir la IA

Sobre esos valores, la Recomendación articula un conjunto de principios operativos para guiar la legislación, las políticas, el diseño y uso de Sistemas de IA. Entre los más importantes están:

• Proporcionalidad e inocuidad: la IA sólo debe emplearse cuando sea adecuada para un fin legítimo y con medidas eficaces para prevenir daño. En caso de que pueda producirse cualquier daño para los seres humanos, los derechos humanos y las libertades fundamentales, las comunidades y la sociedad en general, o para el medio ambiente y los ecosistemas, debería garantizarse la aplicación de procedimientos de evaluación de riesgos y la adopción de medidas para impedir que ese daño se produzca.

• Seguridad y protección: deben evitarse vulnerabilidades, fallas y usos inseguros a lo largo de todo el ciclo de vida de los Sistemas de IA. Los daños no deseados (riesgos de seguridad) y las vulnerabilidades a los ataques (riesgos de protección) deberían ser evitados y deberían tenerse en cuenta, prevenirse y eliminarse a lo largo del ciclo de vida de los sistemas de IA para garantizar la seguridad y la protección de los seres humanos, del medio ambiente y de los ecosistemas. La seguridad y la protección de la IA se propiciarán mediante el desarrollo de marcos de acceso a los datos que sean sostenibles, respeten la privacidad y fomenten un mejor entrenamiento y validación de los modelos de IA que utilicen datos de calidad.

• Equidad y no discriminación: los actores de IA deberían promover la justicia social, salvaguardar la equidad y luchar contra todo tipo de discriminación, de conformidad con el derecho internacional, minimizando sesgos y no reproduciendo discriminaciones estructurales; además, debe garantizarse la posibilidad de recurrir de manera efectiva frente a decisiones algorítmicas sesgadas.

En el plano internacional, los países más avanzados tecnológicamente tienen la responsabilidad de ser solidarios con los menos avanzados para garantizar que los beneficios de las tecnologías de la IA se compartan de manera que, para estos últimos, el acceso al ciclo de vida de los Sistemas de IA y la participación en él contribuyan a un orden mundial más equitativo en lo que respecta a la información, la comunicación, la cultura, la educación, la investigación y la estabilidad socioeconómica y política.

• Sostenibilidad: la IA debe evaluarse también por sus efectos sociales, culturales, económicos y ambientales de largo plazo. La evaluación continua de estos efectos debería llevarse a cabo con pleno conocimiento de las repercusiones de dichas tecnologías en la sostenibilidad como un conjunto de metas en constante evolución en toda una serie de dimensiones, como las que se definen actualmente en los Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas.

• Derecho a la intimidad, privacidad y protección de datos: la recopilación, uso, compartición, archivo y supresión de datos deben tener una base jurídica válida, salvaguardas apropiadas y, cuando corresponda, consentimiento informado.

La privacidad, que constituye un derecho esencial para la protección de la dignidad, la autonomía y la capacidad de actuar de los seres humanos, debe ser respetada, protegida y promovida a lo largo del ciclo de vida de los Sistemas de IA. Deberían establecerse en los planos nacional o internacional, de acuerdo con un enfoque de múltiples partes interesadas, marcos de protección de datos y mecanismos de gobernanza adecuados, protegidos por los sistemas judiciales y aplicados a lo largo del ciclo de vida de los Sistemas de IA.

• Supervisión y decisión humanas: la responsabilidad final nunca desaparece; las personas físicas o jurídicas siguen siendo responsables jurídicas y éticas de las recomendaciones y/o decisiones apoyadas por IA.

Puede ocurrir que, en algunas ocasiones, los seres humanos decidan depender de Sistemas de IA por razones de eficacia o eficiencia, pero la decisión de ceder el control en contextos limitados seguirá recayendo en los seres humanos, ya que estos pueden recurrir a los sistemas de IA en la adopción de decisiones y en la ejecución de tareas, pero un Sistema de IA nunca podrá reemplazar la responsabilidad final de los seres humanos y su obligación de rendir cuentas. Por regla general, las decisiones de vida o muerte no deberían cederse a Sistemas de IA.

• Transparencia y explicabilidad: las personas deben saber cuándo una decisión se basa en IA y, cuándo sus derechos o seguridad están en juego; deben poder pedir explicaciones y revisión.

La transparencia es necesaria para que los regímenes nacionales e internacionales pertinentes en materia de responsabilidad funcionen eficazmente. La falta de transparencia también podría reducir la posibilidad de impugnar eficazmente las decisiones basadas en resultados producidos por los Sistemas de IA y, por lo tanto, podría vulnerar el derecho a un juicio imparcial y a un recurso efectivo, y limitar los ámbitos en los que estos Sistemas pueden utilizarse legalmente. Sin embargo, para respaldar la gobernanza democrática, el grado de transparencia y explicabilidad debería ser siempre adecuado al contexto y al efecto, ya que puede ser necesario encontrar un equilibrio entre la transparencia y la explicabilidad y otros principios como la privacidad, la seguridad y la protección.

• Responsabilidad y rendición de cuentas: deberían existir mecanismos de supervisión, auditoría, trazabilidad, evaluación de impacto, diligencia debida y protección de los denunciantes de irregularidades, para garantizar la rendición de cuentas respecto de los Sistemas de IA y de su impacto a lo largo de su ciclo de vida. La responsabilidad ética y la obligación de rendir cuentas de las decisiones y las acciones basadas de alguna manera en un Sistema de IA siempre deberían ser atribuibles, en última instancia, a los actores de la IA conforme a la función que tengan en el ciclo de vida del Sistema de IA.

• Sensibilización y educación: la alfabetización digital, ética y mediática es condición para una participación pública real y efectiva y para proteger a la sociedad frente a influencias indebidas. Esta capacitación debería idealmente ser realizada conjuntamente por los gobiernos, las organizaciones intergubernamentales, la sociedad civil, las universidades, los medios de comunicación, los dirigentes comunitarios y el sector privado con el objetivo de que todos los miembros de la sociedad puedan adoptar decisiones informadas sobre su utilización de los Sistemas de IA y estén protegidos de influencias indebidas.

• Gobernanza adaptativa y multi actor: la gobernanza de la IA debe combinar regulación estatal, cooperación internacional y participación de múltiples partes interesadas, respetando el derecho internacional y la soberanía nacional. La participación de las diferentes partes interesadas a lo largo del ciclo de vida de los Sistemas de IA es necesaria para garantizar enfoques inclusivos de la gobernanza de la IA, de modo que los beneficios puedan ser compartidos por todos, y para contribuir al desarrollo sostenible.

Los 11 ámbitos de acción política

Una fortaleza del documento de Recomendación de la UNESCO radica en que propone aplicar sus valores y principios en los siguientes once ámbitos concretos de política pública:

1. Evaluación del impacto ético: la UNESCO recomienda que los Estados Miembro establezcan evaluaciones de impacto ético que identifiquen beneficios, riesgos y daños potenciales, así como medidas adecuadas de prevención, atenuación y seguimiento de los riesgos, incluyendo efectos sobre derechos humanos, trabajo, ambiente y grupos vulnerables. También recomienda mecanismos de diligencia debida y supervisión para determinar, prevenir y atenuar los riesgos y rendir cuentas de la forma en que abordan el impacto de los Sistemas de IA en el respeto de los derechos humanos, el estado de derecho y las sociedades inclusivas, con transparencia, incluso respecto de información de interés público en manos privadas.

2. Gobernanza y administración éticas: Los Estados Miembros deberían velar por que los mecanismos de gobernanza de la IA sean inclusivos, transparentes, multidisciplinarios y multilaterales (lo que incluye la posibilidad de atenuar y reparar daños más allá de las fronteras) y cuenten con múltiples partes interesadas. En particular, la gobernanza debería incluir aspectos de previsión y dispositivos eficaces de protección, seguimiento de los efectos, aplicación y reparación.

Se alienta a los Estados Miembros a que elaboren estrategias nacionales y regionales en materia de IA y consideren la posibilidad de adoptar formas de gobernanza “blanda”, por ejemplo, un mecanismo de certificación para los Sistemas de IA y el reconocimiento mutuo de su certificación, cuidando de no obstaculizar la innovación ni poner en situación de desventaja a las pequeñas y medianas empresas o las empresas incipientes, la sociedad civil y las organizaciones científicas y de investigación como resultado de una carga administrativa excesiva.

Los Estados Miembros deberían reforzar la capacidad del Poder Judicial para adoptar decisiones relacionadas con los Sistemas de IA en el marco del estado de derecho y de conformidad con el derecho y las normas internacionales.

3. Política de datos: el documento insiste en proteger datos personales y sensibles, promover datos abiertos bajo condiciones seguras y legales, mejorar la calidad de los data sets (conjuntos de datos que se usan para entrenar, probar, validar o alimentar un Sistema de IA) y favorecer esquemas de intercambio interoperable y confiable para investigación, innovación e interés público.

4. Desarrollo y cooperación internacional: la UNESCO procura evitar que la IA profundice divisiones geo tecnológicas. Por eso impulsa plataformas de cooperación, transferencia de capacidades, infraestructura, financiamiento y mayor participación de países de ingreso mediano bajo, PMA (Países Menos Adelantados), PDSL (Países en Desarrollo Sin Litoral) y PEID (Pequeños Estados Insulares en Desarrollo) en la gobernanza global de la IA.

5. Medio ambiente y ecosistemas: Los Estados Miembros y las empresas deberían evaluar el impacto ambiental directo e indirecto de los Sistemas de IA a lo largo de su ciclo de vida, en particular, aunque no exclusivamente, su huella de carbono, su consumo de energía y el impacto ambiental de la extracción de las materias primas necesarias para la fabricación de tecnologías de la IA, y reducir el impacto ambiental de los Sistemas de IA y las infraestructuras de datos. Los Estados Miembros deberían asegurar el cumplimiento de las leyes, políticas y prácticas ambientales por parte de todos los actores de la IA.

6. Género: el documento exige detectar y corregir sesgos, prevenir violencia y exclusión digital, y promover activamente la participación y el liderazgo de mujeres y niñas en investigación, desarrollo, dirección y emprendimientos vinculados a IA.

Los Estados Miembros deberían asignar fondos específicos de sus presupuestos públicos a la financiación de planes con perspectiva de género, velar por que las políticas digitales nacionales incluyan un plan de acción en materia de género y elaborar políticas pertinentes, por ejemplo, sobre la educación laboral, destinadas a apoyar a las niñas y las mujeres para que no queden excluidas de la economía digital impulsada por la IA.

7. Cultura: se alienta a los Estados Miembros a que incorporen Sistemas de IA, cuando proceda, a la preservación, el enriquecimiento, la comprensión, la promoción, la gestión y la accesibilidad del patrimonio cultural material, documental e inmaterial.

Los Estados Miembros deberían promover nuevas investigaciones en la intersección entre la IA y la propiedad intelectual, por ejemplo, para determinar si hay que proteger con derechos de propiedad intelectual las obras creadas mediante tecnologías de la IA y la manera de hacerlo. Los Estados Miembros también deberían evaluar cómo afectan las tecnologías de la IA a los derechos o los intereses de los titulares de derechos de propiedad intelectual cuyas obras se utilizan para investigar, desarrollar, entrenar o implantar aplicaciones de IA.

8. Educación e investigación: la UNESCO propone currículos de ética de la IA para todos los niveles, integración entre competencias técnicas y humanísticas, y accesibilidad lingüística y para personas con discapacidad.

Los Estados Miembros deberían alentar las iniciativas de investigación sobre la utilización responsable y ética de las tecnologías de la IA en la enseñanza, la formación de docentes y el aprendizaje electrónico. Esas iniciativas deberían ir acompañadas de una evaluación adecuada de la calidad de la educación y de las repercusiones que la utilización de las tecnologías de la IA tiene para los educandos y los docentes.

Los Estados Miembros deberían también velar por que las tecnologías de la IA empoderen a los educandos y los docentes y mejoren su experiencia, teniendo presente que los aspectos relacionales y sociales y el valor de las formas tradicionales de educación son fundamentales en las relaciones entre docentes y educandos y entre los propios educandos y deberían tenerse en cuenta al examinar la adopción de las tecnologías de la IA en la educación.

Los sistemas de IA utilizados en el aprendizaje deberían estar sujetos a requisitos estrictos en materia de supervisión, evaluación de las capacidades o predicción de los comportamientos de los educandos. La IA debería apoyar el proceso de aprendizaje sin reducir las capacidades cognitivas y sin recabar información sensible, respetando las normas pertinentes en materia de protección de los datos personales.

9. Comunicación e información: la Recomendación se preocupa por la libertad de expresión, el acceso a información plural, la transparencia en moderación automatizada de contenidos, la desinformación, la alfabetización mediática y el uso ético de IA por parte de los medios.

Para mejorar el acceso a la información y el conocimiento los Estados Miembros podrían utilizar los sistemas de IA, por ejemplo, apoyando a los investigadores, las universidades, los periodistas, el público en general y los desarrolladores, a fin de mejorar la libertad de expresión, las libertades académicas y científicas y el acceso a la información, así como aumentar la divulgación proactiva de los datos y la información oficiales.

10. Economía y trabajo: el documento destaca que la IA transformará los mercados laborales, causará desempleo por la automatización basada en IA y exigirá nuevas competencias y medidas fiscales y sociales. Propone rediseñar la formación y la capacitación, fortalecer habilidades transversales y coordinar a gobiernos, academia, empleadores y organizaciones de trabajadores para reducir brechas de capacidades e impacto social y económico.

Los Estados Miembros deberían apoyar los acuerdos de colaboración entre los gobiernos, las instituciones universitarias, las instituciones de enseñanza y formación profesional, la industria, las organizaciones de trabajadores y la sociedad civil a fin de reducir la brecha en cuanto a las competencias exigidas para adecuar los programas y estrategias de capacitación a las futuras implicaciones del trabajo y a las necesidades de la industria, incluidas las pequeñas y medianas empresas.

Los Estados Miembros deberían elaborar y aplicar programas para analizar los problemas detectados y darles respuesta, entre los que podrían figurar el perfeccionamiento y la reconversión profesional, el fortalecimiento de la protección social, la aplicación de políticas e intervenciones sectoriales proactivas y la introducción de ventajas fiscales y nuevas formas de tributación. Los Estados Miembros deberían garantizar que haya suficiente financiación pública para apoyar estos programas. Las reglamentaciones pertinentes, como los regímenes fiscales, deberían examinarse cuidadosamente y modificarse, si es necesario, para contrarrestar las consecuencias del desempleo causado por la automatización basada en la IA.

11. En salud y bienestar social, la UNESCO admite el potencial de la IA para mejorar la atención y la salud pública, pero exige regulación, evidencia científica, participación de pacientes y profesionales, control de sesgos, resguardo de privacidad y preservación de la decisión humana final en el diagnóstico y el tratamiento.

Seguimiento, implementación y promoción

La Recomendación de la UNESCO no se limita a formular ideas e iniciativas. También prevé seguimiento y evaluación mediante enfoques cuantitativos y cualitativos, metodologías de evaluación de impacto ético, herramientas para medir el “estadio de preparación” de cada país y mecanismos institucionales como comisiones de ética, observatorios y repositorios de buenas prácticas. La UNESCO se asigna un papel de apoyo técnico, coordinación y difusión internacional.

Conclusiones

En síntesis, la UNESCO propone una visión de la ética de la IA que es humano céntrica, basada en derechos, ambientalmente sensible, inclusiva y multilateral. No se trata simplemente de “hacer la IA más transparente”, sino de subordinar su diseño, despliegue y gobernanza a una pregunta más profunda: qué tipo de sociedad queremos construir con estas tecnologías? La Recomendación entiende que la legitimidad de la IA no depende sólo de que funcione bien, sino de que sea justa, explicable, responsable, inclusiva y compatible con la dignidad humana y el bien común.

José C. Nordmann

Vicepresidente del Consejo Empresarial para la Ética en la IA – Capítulo Uruguay

Miembro del Consejo Mundial para un Planeta Más Seguro

Miembro de ACFE (Association of Certified Fraud Examiners)

Miembro del Consejo Consultivo Mundial de i2 Group

Chief Compliance Officer (Quanam)

Miembro de AUC (Asociación Uruguaya de Compliance)

Miembro Asociado de WCA (World Compliance Association)

https://www.linkedin.com/pulse/unesco-recomendaci%25C3%25B3n-sobre-la-%25C3%25A9tica-en-ia-jos%25C3%25A9-c-nordmann-myzpf