Madrid, 23 de abril de 2024
El 27 de marzo de 2006, la Asamblea General de las Naciones Unidas adoptó la Resolución 60/252, en la cual se proclamaba el 17 de mayo Día Mundial de la Sociedad de la Información (#diadeinternet) para promover el buen uso y difundir los enormes beneficios que brindan Internet y las tecnologías digitales para todas las personas.
Para este 2024, el Comité de Impulso del Día de Internet, del que forma parte la Conferencia de Rectores y Rectoras de las Universidades Españolas (CRUE), aprobó por unanimidad que este año el lema fuera «Por una inteligencia artificial comprometida con las personas», y que sirva de marco para focalizar las acciones y mensajes de esta jornada. Con este motivo se ha elaborado un manifiesto que incluye un decálogo para impulsar el acceso, uso y desarrollo de la inteligencia artificial (IA), con el objetivo de situar a las personas en el centro de un mundo cada vez más digitalizado:
«La IA tiene el potencial de transformar la forma en que interactuamos con el mundo y, a la vez, nos presenta una serie de retos importantes y grandes oportunidades. Actualmente, ya se utiliza en numerosas aplicaciones comerciales y de producción que abarcan todo tipo de industrias y las ventajas de su utilización son evidentes (automatización y mejora de procesos, productividad, control y optimización de recursos, reducción de errores, etc.). Detrás de estas ventajas se plantean algunos desafíos que el legislador, la industria y los propios ciudadanos no pueden obviar para que esta IA sea social, inclusiva y respetuosa con las personas.
Todo ello nos pone delante de ineludibles cuestiones ya abordadas en noviembre de 2021 por la UNESCO en la primera norma mundial sobre la ética de la IA: la «Recomendación sobre la ética de la inteligencia artificial». La Unión Europea ha dado un paso significativo en la regulación de los sistemas IA con la reciente aprobación del Reglamento de inteligencia artificial (AI ACT). Esta norma, que se espera entre en vigor en dos años, es el primer marco legal integral sobre IA en el mundo, fijando un momento histórico en la regulación de esta tecnología.
Para que el desarrollo y la innovación tecnológica de los sistemas de IA sean aceptados, es necesario que supere el filtro social para lo cual no basta con una serie de principios éticos que, por otro lado, son fundamentales. Es necesario que los sistemas de IA estén alineados y actúen de forma coherente con las creencias y objetivos humanos.
Por todo ello, es necesario velar porque el desarrollo e implementación de la IA esté comprometida con los ciudadanos. De lo contrario, se corre el riesgo de que estas tecnologías sean percibidas como negativas y produzcan un rechazo social, perdiendo la oportunidad de aprovecharse de los beneficios de desplegar la IA en todo su potencial.
Decálogo
1. Transparencia, comprensión, accesibilidad y control
Los resultados de los modelos utilizados por la IA deben de estar documentados ser comprensibles y accesibles para todas las personas, independientemente de su capacidad física, sensorial o cognitiva, promoviendo la inclusión y la igualdad de oportunidades en el marco del Reglamento de IA (AI ACT). Es necesario impulsar la transparencia y la implementación de normas, procesos y mecanismos de supervisión que permitan comprobar que estos principios se cumplen, poniendo en valor a aquellos modelos de IA que permitan recibir comentarios y apelaciones.
2. Alfabetización, desarrollo de competencias y empleo
Fomentar la formación de profesionales cualificados que promuevan la calidad y el desarrollo responsable de estos sistemas, impulsando la formación y capacitación sobre IA, así como el acceso a documentación que facilite su entendimiento. Impulsar, asimismo, la formación básica de la ciudadanía en IA, sus posibilidades y las consecuencias derivadas de un uso inadecuado de de forma que puedan tomar decisiones informadas en su relación con esta tecnología con especial foco en la gente joven, para que estén preparados para el acceso a empleos en los que puedan explotar todo el potencial de la IA.
3. Privacidad por diseño y acceso a los datos
Integrar medidas de privacidad desde la fase inicial del desarrollo de productos y servicios basados en IA, asegurando que la recolección y el procesamiento de datos se realizan conforme a la normativa de protección de datos. Facilitar el acceso a los datos para poder entrenar modelos de IA incentivando su uso en todos los ámbitos.
4. Ciberseguridad
Implementar medidas robustas de ciberseguridad para concienciar y promover un uso seguro y responsable de la IA. Del mismo modo, utilizar la inteligencia artificial para mejorar la ciberseguridad y resiliencia de productos, servicios, sistemas y, por ende, de las empresas y la sociedad en general.
5. Equidad y no discriminación
Mitigar sesgos y discriminación en los conjuntos de datos utilizados para el entrenamiento de modelos y asegurar que la IA no perpetúe ni amplifique prejuicios existentes en la sociedad. Luchar contra las brechas sociales que puedan surgir derivadas del uso de la IA.
6. Propiedad intelectual
Garantizar los derechos de propiedad intelectual en las nuevas situaciones creadas por la IA en esta materia (marcas, diseños, patentes o derechos de autor).
7. Marco legal y ético
Seguir desarrollando marcos legales y deontológicos específicos que definan claramente las obligaciones y responsabilidades de los desarrolladores, proveedores y usuarios en los sistemas que hagan uso de la IA.
8. Responsabilidad
Establecer protocolos en colaboración con la industria para el seguimiento y la revisión periódica de los avances de la IA, adaptándolos a los cambios normativos y legales, así como a las innovaciones y desarrollo de la tecnología.
9. Sostenibilidad e impacto ambiental
El uso de las tecnologías de IA debe evaluarse en función de su impacto en la «sostenibilidad», entendida como un concepto dinámico en constante evolución que incluya los Objetivos de Desarrollo Sostenible (ODS) de Naciones Unidas.
10. Co-gobernanza y participación ciudadana
La participación de las partes interesadas a lo largo del ciclo de vida de los sistemas de IA es necesaria para el desarrollo de enfoques inclusivos de gobernanza involucrando a la Sociedad Civil en este proceso. Fomentar la colaboración entre expertos en IA, ética y otras disciplinas relevantes para abordar de manera integral los desafíos técnicos y sociales asociados con la IA. Es importante que los gobiernos trabajen en colaboración a nivel internacional para establecer estándares comunes, compartir mejores prácticas y abordar los desafíos transfronterizos asociados con la IA como son la ciber seguridad y la gobernanza de los datos»
Las organizaciones y administraciones que quieran sumarse para impulsar esta iniciativa pueden hacerlo escribiendo un correo a:
diadeinternet@aui.es
#ManifiestoInteligenciaArtificial
