La supervisión humana y la transparencia como garantías para el uso ético de la IA

Tras unas palabras de bienvenida por parte de Javier Mejía, director de Marketing y Desarrollo de Negocio de AENOR, tuvo lugar la primera ponencia de la jornada, a cargo de Rafael García Meiro, CEO de AENOR, que asumió con éxito el reto de abordar de forma práctica y directa un concepto tan complejo y cargado de aristas como la ética de la IA. «Va a transformar la sociedad en todos sus aspectos y dimensiones, tanto empresas como organismos o administraciones, de una forma incluso más radical que la llegada de Internet en los 90», comenzó. A este respecto, matizó que no se trata de una tecnología «determinista: aunque generalmente funciona correctamente, la estadística demuestra que provoca errores, las llamadas 'alucinaciones', un aspecto de su funcionamiento en la que también entra en juego la ética».

García Meiro subrayó la importancia del recién creado Reglamento Europeo de IA, «de aplicación obligatoria a partir de febrero de 2025, que determina una regulación precisamente en base a los errores de la tecnología y sus posibles riesgos». El CEO citó algunos ejemplos documentados de errores, como la aparición de sesgos de raza en un sistema de IA empleado por el sistema judicial de Estados Unidos para prever el comportamiento de personas en libertad vigilada, o el uso de argumentos jurídicos falsos como consecuencia del empleo de esta tecnología en un juicio por parte de abogados de Donald Trump.

El CEO de AENOR detalló los diversos niveles de riesgo recogidos por la normativa europea: desde lo inaceptable de prácticas como emplear la biometría para el seguimiento en tiempo real de las personas, al riesgo mínimo que supone utilizar IA en labores de programación que pudieran atentar contra derechos de propiedad intelectual, pasando por el riesgo limitado que implica interactuar con tu público como empresa con chatbots sin advertirlo a tus clientes.

Durante su intervención, destacó la colaboración que han establecido con Microsoft para el desarrollo de una certificación AENOR para la gestión Ética y Responsable de la IA, basada en los estándares internacionales ISO/IEC 42001:2023 Sistema de gestión de la IA, e ISO/IEC TR 24368:2022. Aspectos Sociales y Éticos en la IA. Una certificación alineada con la regulación Europea.

El CEO detalló algunos de los elementos presentes en su certificación del sistema de gestión de la IA, como el inventario de sistemas de esta tecnología utilizados, mapas de riesgo, políticas y código ético o definición de órganos y mecanismos de control. «Actualmente estamos desarrollando esta certificación con una de las empresas del Ibex 35», anunció.

En cuanto a la certificación relacionada con la gestión ética de la IA que impulsa AENOR en su colaboración con Microsoft, García Meiro destacó que está basada «en 14 principios sociales y éticos, como los derechos humanos, privacidad y seguridad, transparencia y explicabilidad».

Así, García Meiro señaló que el objetivo de AENOR «es lograr una masa crítica de empresas que utilicen nuestras certificaciones en materia de IA como código de buenas prácticas en el uso de la IA, sirviendo como ejemplo para las demás».

En este sentido, el CEO de AENOR recordó como los estándares y normas de buenas prácticas «tienen un inicio voluntario para devenir en obligatorias con el paso del tiempo, suponiendo así un elemento de transformación y mejora de la sociedad».

A continuación, Javier González de Lara, presidente de la CEM y vicepresidente de la CEOE, analizó la complejidad del reto empresarial ante la IA. «Hay que pivotar esta revolución tecnológica conforme a principios morales, situando siempre a las personas en el centro para controlar las decisiones tomadas por la IA», valoró. Su uso sostenible, la transparencia y la búsqueda del bien común fueron otros aspectos destacados como esenciales por González de Lara para garantizar el uso ético de la IA.

«Tenemos diversos retos en el mundo empresarial de nuestro país: fomentar el empleo de esta tecnología en el tejido productivo, especialmente las pymes; favorecer un contexto fiscal y económico que les permitan la implantación de la IA; y desarrollar la voluntad de las empresas de conocer sus riesgos y oportunidades para incorporarla a las estructuras de sus modelos de gestión», enumeró el presidente de la CEM.

Por su parte, Carmen Muñoz, experta en IA, miembro de OdiseIA y profesora de Derecho Civil en la UCM, puso en valor que la regulación europea «busca especialmente la protección de las pymes y de los derechos fundamentales: la ética y la normativa deben ir de la mano para garantizar la presencia humana en la gestión de la IA, asegurando así su eficiencia y fiabilidad. Vivimos una cuarta Revolución Industrial que está cambiando tanto la forma de relacionarnos como la manera de contratar bienes y servicios, con una tecnología basada en algoritmos y datos. Y los problemas éticos vienen precisamente de la protección de esos datos».

Seguidamente, se celebró una mesa redonda sobre desafíos y casos prácticos de la IA. Moderada por la periodista Celia Bermejo, contó con la participación de Boris Delgado, director de Industria y TIC de AENOR; Toni de la Prieta, director general del Centro Avanzado de Tecnología de Accenture en España y Portugal; Antonio Carvajal, manager de la unidad de Tecnología de OPPLUS; y Mélida López, CEO y cofundadora de KanzoTech.

Los participantes desgranaron su actividad actual vinculada a la IA, y subrayaron aspectos esenciales en su manejo en un contexto empresarial, como «integrar en los equipos a personas con un sentido crítico desarrollado para valorar los resultados de la IA», apuntó Boris Delgado. Tanto Antonio Carvajal como Mélida López advirtieron que los cambios «llegaran de forma más paulatina de la que se anuncia constantemente en los medios». Toni de la Prieta subrayó la conveniencia de establecer equipos multidisciplinares «para la creación de los guardarrailes que sirvan para garantizar el uso ético de la IA».

Miguel Briones, delegado territorial de Desarrollo Educativo y Formación Profesional y de Universidad, Investigación e Innovación, fue el encargado de clausurar la jornada. Tras subrayar la importante apuesta de la Junta por esta nueva tecnología, que aplica ya en ámbitos como el jurídico, el sanitario o el educativo, hizo un llamamiento a los empresarios. «Las empresas tienen un nuevo universo a sus píes: sean cautos e inteligentes para realizar un buen uso de esta herramienta», concluyó el delegado.