El nuevo reglamento europeo sobre los usos de la IA, de casi 500 páginas, establece un marco legal en el que identifican cuatro riesgos principales relacionados con el desarrollo y uso de la Inteligencia Artificial.
Uno de los principales retos de este texto ha sido garantizar un equilibrio entre la innovación y la protección de los derechos fundamentales.

Entre los riesgos que aborda esta ley se incluyen:

  • La privacidad y la vigilancia masiva, especialmente a través del uso indebido de técnicas biométricas.
  • La discriminación sobrevenida por algoritmos sesgados.
  • La seguridad y la responsabilidad en caso de daños ocasionados por la IA.
  • La protección de los derechos de autor en el desarrollo de modelos generativos.

 

Para las empresas que desarrollan IA, la ley propone algunas soluciones que consiguen mitigar estos riesgos: obligación de hacer evaluaciones de impacto y de riesgos, desarrollar sistemas de gobernanza de datos transparentes y con trazabilidad, así como la implementación de medidas tecnológicas que garanticen la no discriminación por sesgos y la equidad en los sistemas de IA.

Esto a priori puede parecer una “carga adicional” para estas empresas, pero desde Europa se lanza el mensaje de que es el comienzo de una hoja de ruta para el desarrollo responsable de la IA. Además, lanza un mensaje tranquilizador asegurando que esta normativa supondrá nuevas oportunidades de mercado para las empresas que adopten estos estándares.

Para los usuarios, la nueva ley asegura un entorno de IA más seguro y ético, donde, con más buenas intenciones que con normas, Europa asegura que sus derechos estarán protegidos minimizando riesgos de abusos. Al requerir que las aplicaciones de IA sean transparentes, justas y responsables, los usuarios deberían tener una mayor confianza en las herramientas implementadas con IA, sabiendo que hay medidas que protegen su privacidad y derechos fundamentales.

Entre las buenas intenciones de esta ley no solo están las de proteger a los ciudadanos, sino también fomentar un ecosistema de IA en Europa basado en la confianza y la sostenibilidad a largo plazo.