Actuaciones del Parlamento Europeo en materia de Inteligencia Artificial

El 21 de octubre el Parlamento Europeo publicó la visión de parlamento respecto a la regulación de la AI. Ha comunicado que “Europa necesita desarrollar una Inteligencia Artificial fiable, que elimine la discriminación y que sirva para el bien común asegurando que los comercios y la industria florezcan generando prosperidad económica”. Para ello ha adoptado tres informes: Marco para aspectos éticos de la Inteligencia Artificial, robótica y tecnologías relacionadas, Régimen de responsabilidad civil en materia de inteligencia artificial y Derechos de propiedad intelectual para el desarrollo de las tecnologías relativas a la inteligencia artificial.

Marco para aspectos éticos de la Inteligencia Artificial, robótica y tecnologías relacionadas

La iniciativa legislativa urge a la Comisión a presentar un nuevo marco legal en el que se especifiquen los principios y obligaciones que conlleva el desarrollo, despliegue y uso de tecnologías basadas en Inteligencia Artificial, incluyendo software, algoritmos y datos.

Se hace hincapié en las tecnologías de AI consideradas de alto- riesgo (e.g. aquellas con capacidad de autoaprendizaje), diciendo que deben ser diseñadas para tener supervisión humana constante, llegando incluso a ser eliminadas en el caso de que se detecte alguna violación de los principios éticos.

Los principios en los que se deberían basar las futuras leyes incluyen:

• Inteligencia Artificial antropocéntrica y antropogénica: Establece los principios de protección de datos personales, no discriminación, prevención de daños, etc.
• Evaluación de riesgos: Hace hincapié en la necesidad de una regulación con enfoque basado en el riesgo; con una lista de sectores, usos y fines de alto riesgo sometida a una reevaluación periódica. Para determinar si la AI es de alto riesgo se debe realizar una evaluación ex ante.
• Seguridad, transparencia y rendición de cuentas: Subraya la necesidad de transparencia en la interacción con los sistemas de AI. Los consumidores deben ser informados de cuando interaccionan con un sistema de AI y tienen el derecho de contactar con un ser humano con poder de decisión. Considera que podría ser necesario actualizar la legislación actual en materia de vigilancia de mercado, y que si es necesario los desarrolladores tengan la obligación de facilitar a las administraciones públicas los datos, código u otras herramientas de desarrollo utilizadas. Destaca que todos los agentes involucrados en la cadena de desarrollo y suministro de los productos o servicios deben ser responsables de los mismos. Finalmente destaca la necesidad de una fuerte seguridad en redes de AI.
• Sin sesgos y Sin Discriminación: Manifiesta su preocupación por el peligro de sesgos y discriminación en el desarrollo, despliegue y uso de AI, incluyendo algoritmos, programas o datos. Propone la revisión periódica de los conjuntos de datos utilizados, así como la elaboración de normas sobre el tratamiento de los mismos.
• Responsabilidad social: Subraya la importancia de conseguir un alto nivel en alfabetización digital general y de formar profesionales altamente cualificados. Introduce la importancia de la movilidad como servicio, enfocada a los vehículos autónomos para personas con movilidad reducida.
• Medio Ambiente y Sostenibilidad: Considera la necesidad de una revisión periódica del consumo de energía y emisiones de fases de efecto invernadero para el despliegue, desarrollo y uso de la AI. Destaca que el uso de estas tecnologías puede ofrecer oportunidades para el cumplimiento de los ODS de las Naciones Unidas y del Pacto Verde Europeo. Pide a la Comisión que realice un estudio sobre el impacto de la huella de carbono de la tecnología de la AI.
• Mercado Interior: Recuerda a la Comisión que debe examinar el marco jurídico vigente y actualizarlo para cubrir lagunas jurídicas. Pide a la Comisión que ponga medidas de trazabilidad de datos teniendo en cuenta tanto la legalidad de la adquisición de los datos como la protección de los derechos de los consumidores.

Finalmente, en el Anexo B del documento se puede encontrar la propuesta legislativa solicitada. En el anexo de esta se encuentra una lista detallada de los sectores (entre ellos están la educación, la asistencia sanitaria, el transporte y la seguridad y defensa) de alto riesgo, así como de los usos y fines de alto riesgo (entre ellos están la evaluación de estudiantes, la concesión de préstamos, la conducción autónoma y los tratamientos médicos).

Régimen de responsabilidad civil en materia de inteligencia artificial

Se pide un marco de responsabilidad civil, en el que se hace responsables de posibles daños causados por la AI de alto riegos a los operadores, por lo que el Parlamento considera que deben tener seguros similares a los del sector automovilístico.

Considera que, aunque es preferible tener reglamentaciones sectoriales especificas para posibles aplicaciones, es necesario tener un marco jurídico horizontal. Además, cree que las nuevas normas comunes para los sistemas de AI deben tener la forma de reglamentos.

Pese a que no es necesaria una revisión completa de los regímenes de responsabilidad civil que funcionan actualmente, se deben hacer adaptaciones específicas para evitar situaciones en las que personas que sufran algún daño acaben sin indemnización. Para ello, se recomienda una adaptación de la Directiva sobre responsabilidad por los daños caudados por productos defectuosos para en primer lugar transformarla en reglamento, en segundo lugar, adaptar los términos para que se incluya el ámbito digital y por último que se actualice en paralelo la Directiva relativa a la seguridad general de los productos.

Considera que las normas que afecten al operador deben cubrir todas las operaciones de los sistemas de AI. En el caso de que haya varios operadores se considera que todos son responsables civiles y que los porcentajes de responsabilidad deben estar determinados por los niveles de control de cada operador sobre el sistema de AI.

Cree que el tipo de sistema de AI tiene una relación directa con la responsabilidad, y por lo tanto se debe establecer un régimen común de responsabilidad objetiva para los sistemas AI autónomos de alto riesgo. Para ello, los sistemas de AI que se consideran de alto riesgo deben ser definidos en el Reglamento, con revisiones periódicas de como mínimo 6 meses. Además, es recomienda que para agilizar los procesos se simplifique todo lo posible los procedimientos de análisis de potenciales riesgos en nuevos dispositivos. Todos los sistemas que no estén incluidos en el Reglamento siguen sujetos a la responsabilidad subjetiva.

Derechos de propiedad intelectual para el desarrollo de las tecnologías relativas a la inteligencia artificial

Es necesario poner salvaguardias a los sistemas de patentes, haciendo una distinción clara entre las creaciones asistidas por AI y las creaciones de la AI. Considerando que los sistemas de AI no tienen personalidad legal, los derechos de propiedad intelectual solo se deben dar a humanos.

Considera que se debe fomentar el intercambio voluntario de datos no personales entre empresas y sectores, incluyendo aclaraciones respecto a la protección de datos y marcas. Pone de manifiesto los desafíos que plantea la creación de deep fakes a partir de datos de mala calidad.

Fuentes:

Unión Europea, Parlamento Europeo. What is artificial intelligence and how is it used? Octubre de 2020. Disponible en: https://www.europarl.europa.eu/news/en/headlines/priorities/artificial-intelligence-in-the-eu/20200827STO85804/what-is-artificial-intelligence-and-how-is-it-used

Unión Europea, Parlamento Europeo. AI rules: what the European Parliament wants. Octubre de 2020. Disponible en: https://www.europarl.europa.eu/news/en/headlines/priorities/artificial-intelligence-in-the-eu/20201015STO89417/ai-rules-what-the-european-parliament-wants

Unión Europea, Parlamento Europeo. Parliament leads the way on first set of EU rules for Artificial Intelligence. Octubre de 2020. Disponible en: https://www.europarl.europa.eu/news/en/press-room/20201016IPR89544/parliament-leads-the-way-on-first-set-of-eu-rules-for-artificial-intelligence

Unión Europea, Parlamento Europeo. Framework of ethical aspects of artificial intelligence, robotics and related technologies. Octubre de 2020. Disponible en: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_ES.pdf

Unión Europea, Parlamento Europeo. Civil liability regime for artificial intelligence. Octubre de 2020. Disponible en: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_ES.pdf

Unión Europea, Parlamento Europeo. Intellectual property rights for the development of artificial intelligence technologies. Octubre de 2020. Disponible en: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0277_ES.pdf