Importancia del Principio de Transparencia para el desarrollo de la IA

La inteligencia artificial (IA) (y en particular los servicios y productos que han comenzado a proliferar en los últimos meses debido a su desarrollo), ha tomado por sorpresa no solo al ciudadano común, sino también a las empresas y los gobiernos de todo el mundo.  Como han advertido los entendidos en esta materia, la IA es una tecnología que puede tener un gran impacto en la sociedad, el medio ambiente y la vida humana; lo que plantea a su vez un sinfín de desafíos éticos y jurídicos que requieren una orientación responsable y una regulación adecuada.

En este sentido la UNESCO) (en su “Recomendación sobre la Ética de la InteligenciaArtificial” adoptada por los Estados miembros en noviembre de 2021), ha propuesto 10 principios para guiar el desarrollo y el uso de la IA. Uno de los principios propuestos es el de "transparencia y explicabilidad", cuyo alcance establece que los sistemas de IA deben ser comprensibles y rastreables tanto para los expertos como para los usuarios finales, y que se debe facilitar información adecuada sobre sus objetivos, procesos, capacidades, limitaciones y resultados.

Concretamente, la “transparencia y la explicabilidad” de la IA se refiere a la capacidad de comprender y comunicar cómo funcionan los sistemas de IA y cómo toman las decisiones que puedan afectar a las personas y al medio ambiente; lo que es esencial para garantizar la confianza, la responsabilidad y el control humano sobre esta tecnología disruptiva y sus resultados.

Según el principio de “transparencia y explicabilidad” los sistemas de IA deben ser diseñados y desarrollados de manera que sus procesos algorítmicos sean accesibles y comprensibles para las personas interesadas, incluidos los desarrolladores, los usuarios y las partes afectadas. De esta forma las personas podrán entender y cuestionar el funcionamiento y los resultados de la IA, así como exigir responsabilidades a los actores implicados en su diseño, desarrollo y uso.

La UNESCO propone una serie de medidas para promover la "transparencia y la explicabilidad" de la IA, tales como:

- Establecer normas técnicas para garantizar que los sistemas de IA puedan ser comprendidos por los usuarios.

- Fomentar el desarrollo de herramientas y métodos para facilitar el acceso, la comprensión y la comunicación de los procesos algorítmicos y las decisiones de los sistemas de IA.

- Apoyar la educación y la capacitación sobre la IA para mejorar las competencias digitales y críticas de las personas.

- Crear mecanismos efectivos para supervisar, auditar y evaluar los sistemas de IA con respecto a su transparencia y explicabilidad.

- Proteger los derechos a la información y la participación de las personas afectadas por las decisiones de los sistemas de IA.

En el propósito de instrumentar el principio "transparencia y la explicabilidad, los desarrolladores de IA están llamados a implementar estrategias y acciones que garanticen que sus productos y servicios cumplan con los siguientes elementos:

- Trazabilidad: Consiste en documentar todo el ciclo de vida de un sistema de IA, desde su diseño hasta su implementación y evaluación, incluyendo los datos, los algoritmos, las decisiones y los resultados.

- Interpretabilidad: Este elemento está referido a hacer que los modelos de IA sean más simples o más comprensibles para los humanos, utilizando métodos como la simplificación, la descomposición o la simulación.

- Comunicación: Este contempla que se debe informar a los usuarios sobre las características y el funcionamiento de un sistema de IA, utilizando métodos como las notificaciones o los informes.

En conclusión, el contenido del principio de "transparencia y explicabilidad” es fundamental a fin de construir ahora y en el futuro una IA centrada en el ser humano, su desarrollo y bienestar. Es por ello que la UNESCO invita a todos los actores involucrados a adherirse a este principio y a contribuir a su implementación.