Actualidad

DECÁLOGO POR UNA INTELIGENCIA ARTIFICIAL COMPROMETIDA CON LAS PERSONAS

El Reglamento de Inteligencia Artificial (IA) de la Unión Europea la define como «sistemas  automatizados diseñados para operar con diversos grados de autonomía y que, en función de  objetivos explícitos o implícitos, generan resultados, predicciones, recomendaciones o decisiones  que influyen en el entorno físico o virtual». Recoge el manifiesto cómo la IA tiene el potencial de transformar la forma en que  interactuamos con el mundo y, a la vez, nos presenta una serie de retos importantes y grandes  oportunidades.

Ya en noviembre de 2021,  la  UNESCO estableció la primera norma mundial sobre la ética de la IA, denominada ‘Recomendación sobre la ética de la Inteligencia Artificial’.

Se ha considerado necesario que, para que el desarrollo y la innovación tecnológica de los sistemas de IA sean aceptados, la sociedad acepte este cambio tecnológico.

Para ello no basta con una serie de principios éticos que, por otro lado, son fundamentales. Es necesario que los sistemas de IA estén alineados y actúen de  forma coherente con las creencias y objetivos humanos. Por todo ello, es importante velar porque el desarrollo e implementación de la IA esté comprometida con la ciudadanía.

DECÁLOGO ‘Por una Inteligencia Artificial comprometida con las personas’

1. Transparencia, comprensión, accesibilidad y control

Los resultados de los modelos utilizados por la IA deben de estar documentados, ser comprensibles y accesibles para todas las personas, independientemente de su capacidad física,  sensorial o cognitiva, promoviendo la inclusión y la igualdad de oportunidades en el marco del  reglamento de IA (AI ACT). Es necesario impulsar la transparencia y la implementación de normas, procesos y mecanismos de supervisión que permitan comprobar que estos principios se cumplen, poniendo en valor a aquellos modelos de IA que permitan recibir comentarios y apelaciones.

2. Alfabetización, desarrollo de competencias y empleo  

Fomentar la formación de profesionales cualificados que promuevan la calidad y el desarrollo  responsable de estos sistemas, impulsando la formación y capacitación sobre IA, así como el  acceso a documentación que facilite su entendimiento. Impulsar, asimismo, la formación básica  de la ciudadanía en IA, sus posibilidades y las consecuencias derivadas de un uso inadecuado de  de forma que puedan tomar decisiones informadas en su relación con esta tecnología con especial foco en la gente joven, para que estén preparados para el acceso a empleos en los que puedan explotar todo el potencial de la IA.

3. Privacidad por diseño y acceso a los datos

Integrar medidas de privacidad desde la fase inicial del desarrollo de productos y servicios  basados en IA, asegurando que la recolección y el procesamiento de datos se realizan conforme a  la normativa de protección de datos. Facilitar el acceso a los datos para poder entrenar modelos  de IA incentivando su uso en todos los ámbitos.

4. Ciberseguridad

Implementar medidas robustas de ciberseguridad para concienciar y promover un uso seguro y  responsable de la IA. Del mismo modo, utilizar la IA  para mejorar la  ciberseguridad y resiliencia de productos, servicios, sistemas y, por ende, de las empresas y la  sociedad en general.

5. Equidad y no discriminación

Mitigar sesgos y discriminación en los conjuntos de datos utilizados para el entrenamiento de  modelos y asegurar que la IA no perpetúe ni amplifique prejuicios existentes en la sociedad. Luchar contra las brechas sociales que puedan surgir derivadas del uso de la IA.

6. Propiedad intelectual

Garantizar los derechos de propiedad intelectual en las nuevas situaciones creadas por la IA en esta materia (marcas, diseños, patentes o derechos de autoría).

7. Marco legal y ético

Seguir desarrollando marcos legales y deontológicos específicos que definan claramente las  obligaciones y responsabilidades de los desarrolladores, proveedores y usuarios en los sistemas que hagan uso de la IA.

8. Responsabilidad

Establecer protocolos en colaboración con la industria para el seguimiento y la revisión periódica  de los avances de la IA, adaptándolos a los cambios normativos y legales, así como a las  innovaciones y desarrollo de la tecnología.

9. Sostenibilidad e impacto ambiental

El uso de las tecnologías de IA debe evaluarse en función de su impacto en la sostenibilidad,  entendida como un concepto dinámico en constante evolución que incluya los Objetivos de  Desarrollo Sostenible (ODS) de Naciones Unidas.

10. Co-gobernanza y participación ciudadana

La participación de las partes interesadas a lo largo del ciclo de vida de los sistemas de IA es  necesaria para el desarrollo de enfoques inclusivos de gobernanza involucrando a la sociedad civil  en este proceso. Fomentar la colaboración entre expertos en IA, ética y otras disciplinas  relevantes para abordar de manera integral los desafíos técnicos y sociales asociados con la IA. Es  importante que los gobiernos trabajen en colaboración a nivel internacional para establecer  estándares comunes, compartir mejores prácticas y abordar los desafíos transfronterizos.


DESCARGAR Y SUSCRIBIR MANIFIESTO
El manifiesto puede descargarse a continuación. Las organizaciones y administraciones que quieran sumarse para impulsar esta iniciativa pueden hacerlo escribiendo un correo a diadeinternet@aui.es

• Visitar Web para ampliar información