Nuevas normas sobre la Inteligencia Artificial

La Comisión ha estado trabajando durante años en la construcción de un ecosistema de confianza en torno a la Inteligencia Artificial (AI), basándose en particular en la defensa de los valores de los ciudadanos. En 2018 se publicó la Estrategia Europea en IA en paralelo con el primer Plan Coordinado 2018 como compromiso conjunto de los Estados Miembros. En 2019, el Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial formuló unas directrices sobre una AI fiable, a la vez que se lanzaba el proyecto AI4EU para construir una plataforma y ecosistema europeos de Inteligencia Artificial bajo demanda. En 2020 comenzaron a aumentar sus actividades en esta área, publicando el libro blanco sobre Inteligencia Artificial y el instrumento de medida de la fiabilidad de la Inteligencia Artificial usada por las organizaciones.

La Comisión ha publicado el 21 de abril el nuevo reglamento para la Inteligencia Artificial, junto con el plan coordinado 2021 y el nuevo Reglamento sobre máquinas.

Libro blanco sobre Inteligencia Artificial

En febrero de 2020 se publicó el libro blanco sobre la Inteligencia Artificial sobre el que se abrió una consulta pública (febrero-junio). Los pilares fundamentales del libro son crear un ecosistema de excelencia y crear un ecosistema de confianza.

Para crear un ecosistema de excelencia se destacan diferentes niveles de actuación:

  • Colaboración con los estados miembros. Se propone a los estados miembros la revisión del plan coordinado de 2018.
  • Investigación e Innovación. Se facilitará la creación de centros de excelencia.
  • Habilidades. Se respaldará las redes de universidades para que ofrezcan másteres en AI.
  • PYMES. Los centros de innovación digital y la plataforma AI4EU fomentarán la introducción de la AI en SMEs.
  • Sector privado. Se creará una nueva asociación público-privada en materia de AI, robótica y datos.
  • Sector Público. Se creará un programa de adopción de AI para cada sector dando prioridad al sanitario, administraciones rurales y operadores de servicios públicos.
  • Datos e Infraestructuras Informáticas. Se invertirá en particular en la informática de alto rendimiento, cuántica y especialmente en el edge computing, además de infraestructuras en la nube y de datos. Se buscará unir todas las tecnologías mediante la Inteligencia Artificial.
  • Aspectos internacionales. Se facilitará el intercambio de datos con países terceros.

Para crear un ecosistema de confianza se pretende crear una base de Inteligencia Artificial fiable, basada en los siete requisitos. Además, se destacan una serie de riesgos que puede traer la Inteligencia Artificial como riesgos de los derechos fundamentales (privacidad, discriminación, etc.).

En julio de 2020 se publicaron los resultados de la consulta sobre el Papel Blanco. Como conclusiones principales se tiene:

  • Para poder tener un ecosistema de excelencia en el que desarrollar la AI, el White paper proponía 6 áreas de actuación. La consulta ha puesto de manifiesto la importancia que se da a cada área en particular. En orden de importancia:
    • Habilidades: Mejorar las redes de universidades
    • Comunidad de Desarrollo e Innovación: Apoyar los centros de investigación
    • Otros estados miembros: Revisión del plan de AI
    • Sector privado: Nuevo PPP en AI
    • Adopción de la AI por el sector público: Nuevo programa de AI
    • SMEs: Grupos de Innovación digital con conocimientos sobre AI.
  • Dentro de un ecosistema de confianza, las mayores preocupaciones de los encuestados era la posibilidad de que la AI rompiese con los principios fundamentales y promoviese las desigualdades. Para evitarlo se propuso un sistema de vigilancia de mercado ex-post y ex-ante. La mayor división estaba si la regulación debía ser únicamente para aplicaciones de alto riesgo[1].
  • Dentro del ámbito de seguridad es propone la revisión de la Directiva del Consejo (85 /374/CEE) en materia de responsabilidad por los daños causados por productos defectuosos.

Nueva normativa en materia de AI

Con la publicación del nuevo reglamento, la Comisión ha dado el primer paso para la creación del primer marco jurídico sobre la AI de la historia. El objetivo del nuevo reglamento es garantizar que los europeos puedan confiar en lo que la AI puede ofrecer. Esta nueva normativa sigue un planteamiento basado en el riesgo, en el que se diferencian cuatro categorías:

  • Riesgo inadmisible: Se prohibirán los sistemas de AI que se consideren una amenaza para la seguridad, los medios de subsistencia y los derechos de las personas. En el articulo 5 se resumen todas las prácticas de AI que serán prohibidas, entre las que se incluyen sistemas que manipulen a las personas, que exploten las vulnerabilidades de un grupo específico y el uso de identificación biométrica remota en espacios públicos. Se hace especial hincapié en este último, particularizando las situaciones especificas en las que las autoridades competentes pueden hacer uso de esta tecnología.
  • Alto riesgo: Se describen en el Anexo3 todas las áreas que se consideran de alto riesgo, por ejemplo infraestructuras críticas, formación educativa o empleo. Estos sistemas se encuentran sujetos a una serie de obligaciones antes de que puedan comercializarse:
    • sistemas adecuados de evaluación y mitigación de riesgos, consistirán en procesos iterativos que funcionen durante todo el ciclo de vida del sistema y que serán adaptados de manera periódica de forma que se identifiquen los nuevos riesgos que puedan surgir y se adopten las medidas necesarias para mitigarlos;
    • alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios, en los párrafos 2 a 5 del artículo 10 se definen los criterios de calidad que tienen que cumplir las bases de datos que se alimentan a los algoritmos, dónde se da especial importancia a la zona y grupo al que va destinado el sistema;
    • registro de la actividad para garantizar la trazabilidad de los resultados;
    • documentación detallada que aporte toda la información necesaria sobre el sistema y su finalidad para que las autoridades evalúen su conformidad;
    • información clara y adecuada al usuario;
    • medidas apropiadas de supervisión humana para minimizar el riesgo;
    • alto nivel de solidez, seguridad y precisión, se hace hincapié en la robustez de los sistemas que continúan su aprendizaje una vez están en el mercado y se declara la necesidad de supervisión de las salidas para evitar errores.
  • Riesgo limitado: Se definen unas obligaciones específicas de trasparencia como que los usuarios deben tener conocimiento si están interactuando con una máquina o un humano y tener capacidad de decidir si quieren continuar o no.

Riesgo mínimo o nulo: Se permite el uso de aplicaciones basadas en AI que no representan un riesgo para la seguridad de los ciudadanos como videojuegos o filtros de spam

También se especifican las obligaciones de los proveedores y distribuidores de sistemas de Inteligencia Artificial de alto riesgo:

Traducido de Excellence and trust in artificial intelligence, Factpage

Finalmente, se establecen un conjunto de medidas para respaldar la innovación; las normas solo se aplicarán cuando sea estrictamente necesario y de manera que se reduzca al mínimo la carga para los agentes económicos, con una estructura de gobernanza ligera. Además, los espacios controlados de pruebas (sandboxes) que establezcan un entorno controlado para probar tecnologías innovadoras durante un tiempo limitado y el acceso a los centros de innovación digital y a las instalaciones de ensayo y experimentación ayudarán a las pymes y empresas innovadoras emergentes a seguir innovando y cumpliendo a la vez las nuevas normas sobre la IA y las demás normas jurídicas aplicables. Estas y otras medidas como las nuevas redes de centros de excelencia en IA y la asociación público-privada sobre inteligencia artificial, datos y robótica contribuirán a crear las condiciones marco adecuadas para que las empresas desarrollen e implanten la IA.

Plan Coordinado 2021

El plan coordinado se publicó por primera vez en 2018 para definir medidas e instrumentos de financiación para el desarrollo y la adopción de la AI. La actualización del plan coordinado presenta una serie concreta de actuaciones conjuntas de la Comisión Europea y los Estados Miembros con el objetivo de alcanzar un liderazgo mundial en materia de AI. Presenta un plan para acelerar las inversiones en AI para impulsar una recuperación económica y social. También persigue estimular la ejecución de las estrategias nacionales de AI, eliminar la fragmentación y hacer frente a los retos mundiales.

El plan coordinado actualizado empleará la financiación asignada con cargo a los programas Europa Digital y Horizonte Europa, así como al Mecanismo de Recuperación y Resiliencia, que prevé un objetivo de gasto digital del 20 %, y a la Política de Cohesión con los fines siguientes:

  • crear las condiciones propicias para el desarrollo y la implantación de la IA;
  • fomentar la excelencia de la IA «del laboratorio al mercado»;
  • velar por que la IA sirva a las personas y sea una fuerza en pro del bien social;

fomentar el liderazgo estratégico en sectores y tecnologías de gran impacto, tales como el medio ambiente.

Fuente: Coordinated plan on Artificial Intelligence 2021 review

Como parte de estos esfuerzos, la Comisión planea crear:

  • Una alianza público-privada en AI, datos y robótica que defina, implemente e invierta en una estrategia común de desarrollo e innovación.
  • Nuevas redes de centros de excelencia de Inteligencia Artificial para promover el intercambio de conocimiento, desarrollar la colaboración con la industria y fomentar la diversidad y la inclusión.
  • Instalaciones de prueba y experimentación para probar las nuevas tecnologías en escenarios reales.
  • Nuevos centros de innovación. Ventanillas únicas (one-stop shops) que den acceso a experiencia y experimentación técnicas con el objetivo que las empresas puedan probar antes de invertir.
  • Plataforma de AI sobre demanda (AI-on-demand-Platform) como la herramienta central de recursos de AI europeos.

Nuevo Reglamento Sobre Máquinas

El objetivo del nuevo reglamento sobre máquinas asegurar que la nueva generación de maquinaria garantice la seguridad de los usuarios y los consumidores, estimulando la innovación. La maquinaria abarca una amplia gama de productos de consumo y profesionales, desde robots hasta cortadoras de césped, impresoras 3D, máquinas de construcción y líneas de producción industrial. Mientras que el nuevo Reglamento sobre la IA abordará los riesgos de seguridad de los sistemas de IA, el Reglamento sobre máquinas garantizará la integración segura de los sistemas de IA en la maquinaria en general. Las empresas solo tendrán que realizar una única evaluación de la conformidad para ambos reglamentos.

Además, el nuevo Reglamento sobre máquinas responderá a las necesidades del mercado al aportar mayor claridad jurídica a las disposiciones actuales, reducirá la carga administrativa y financiera de los fabricantes al permitir formatos digitales para las instrucciones y la declaración de conformidad, y al solicitar una adaptación de las tasas para las pymes cuando se necesite un tercero para la evaluación de la conformidad de la máquina, sin descuidar por ello la coherencia con la normativa de la UE en materia de productos.


Fuentes:

Comisión Europea. COM(2020) 65 final. WHITE PAPER On Artificial Intelligence – A European approach to excellence and trust. Bruselas febrero de 2020. Disponible en: https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf

Comisión Europea. White Paper on Artificial Intelligence: Public consultation towards a European approach for excellence and trust. Bruselas julio de 2020. Disponible en: https://ec.europa.eu/digital-single-market/en/news/white-paper-artificial-intelligence-public-consultation-towards-european-approach-excellence

Comisión Europea. Excellence and trust in artificial intelligence. 21 de Abril de 2021. Disponible en: https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_en

Comisión Europea. Nuevas normas sobre la inteligencia artificial: preguntas y respuestas. 21 de abril de 2021. Disponible en: https://ec.europa.eu/commission/presscorner/detail/es/QANDA_21_1683

Comisión Europea. Una Europa Adaptada a la Era Digital: la Comisión propone nuevas normas y medidas para favorecer la excelencia y la confianza en la inteligencia artificial. Comunicado de prensa. 21 de abril de 2021. Disponible en: https://ec.europa.eu/commission/presscorner/detail/es/IP_21_1682

Comisión Europea. Proposal for a Regulation on a European approach for Artificial Intelligence. 21 de abril de 2021. Disponible en: https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-european-approach-artificial-intelligence


[1] Ver apartado 5 del Libro Blanco sobre Inteligencia Artificial.

Los comentarios están cerrados.