LA NUEVA REGULACIÓN DE LA UE

 POR UNA INTELIGENCIA ARTIFICIAL MÁS HUMANA

En el mes de abril la Comisión Europea presentó las propuestas para la regulación de la inteligencia artificial (IA), en las cuales establece las reglas y los límites al uso de la misma, tal y como lo había hecho con anterioridad para el caso de los datos personales por medio del Reglamento General de Protección de Datos.

Las propuestas ya se consolidan como un estándar internacional que tiene como principal objetivo promover una IA centrada en el ser humano. Así, con estas reglas y límites

se pretende dar a las personas, instituciones y empresas, la confianza para adoptar soluciones basadas en IA al mismo tiempo que se anima al mercado a desarrollarlas. 

Ahora bien, ¿qué propone esta regulación? La Comisión aborda la regulación de la IA desde un enfoque basado en el riesgo, del cual se derivan cuatro categorías: riesgo inadmisible, alto riesgo, riesgo limitado y riesgo mínimo. Aunque hay muchos detalles en los reglamentos propuestos, podemos resumir y destacar los siguientes parámetros:

Riesgo inadmisible: son los sistemas de IA prohibidos, es decir, aquellos que significan una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas, como por ejemplo, los sistemas que sirven para manipular el comportamiento humano o aquellos que permiten la puntuación social por parte de los Gobiernos.

Alto riesgo: son los sistemas que no están prohibidos pero que para poder comercializarse deberán someterse a una serie de obligaciones previas muy estrictas. Entre algunos de los sistemas considerados de alto riesgo, se encuentran todos los de identificación biométrica remota, así como las infraestructuras críticas, las tecnologías de aplicación en leyes, en administración de justicia y procesos democráticos, entre otros.
Estas tecnologías y sistemas deberán cumplir con las siguientes obligaciones:

  • “Sistemas adecuados de evaluación y mitigación de riesgos;
  • Alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios;
  • Registro de la actividad para garantizar la trazabilidad de los resultados;
  • Documentación detallada que aporte toda la información necesaria sobre el sistema y su finalidad para que las autoridades evalúen su conformidad;
  • Información clara y adecuada al usuario;
  • Medidas apropiadas de supervisión humana para minimizar el riesgo;
  • Alto nivel de solidez, seguridad y precisión”.*

Riesgo limitado: son los sistemas de IA con obligaciones específicas de transparencia, es decir, aquellos en los que se debe señalar a los usuarios que están interactuando con una máquina, como por ejemplo, en el uso de los robots conversacionales.

Es relevante tener en cuenta que estos límites y obligaciones que se proponen, independientemente del origen de la tecnología de IA, aplican a todos aquellos que comercialicen soluciones de esta naturaleza en la Unión Europea.  En otras palabras, si su solución de IA tiene usuarios ubicados dentro de la Unión, a usted le aplica esta regulación y su incumplimiento supone sanciones, que para empresas pueden ascender hasta el 6% de su facturación anual o 30 millones de euros, según sea la cifra más alta.  
En nuestro contexto local, estos límites y categorías podrán servir de hoja de ruta e insumos para que el legislador colombiano regule la materia, buscando el balance entre los nuevos derechos y la libertad de innovación. Mientras eso sucede, es recomendable que todas las iniciativas de IA tengan en cuenta estos parámetros, como una forma de asegurar que las soluciones no solo se ajustan a estándares internacionales, sino que promueven las mejores prácticas y el bienestar social. 

*Referencias: Comisión Europea. “Proposal for a regulation of the european parliament and of the council laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts”. 21 de abril de 2021. Bruselas. Recuperado de: https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence

Moncada, tecnológico, Moncada comercial
Llegar a empresas,