En 2023, casi un 10% de las empresas europeas con más de 10 trabajadores emplearon algún tipo de tecnología de inteligencia artificial [1], si bien, hasta hace dos semanas no existía ninguna Ley en el mundo que la regulara. Por ello, durante los últimos años las empresas han quedado desamparadas y a la espera de que la Unión Europea se manifestara sobre sus usos y sus límites. Tras la fuerte presión social que ha habido durante los últimos meses, el pasado 12 de julio de 2024 la Unión Europea publicó el muy esperado Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. A través del mencionado Reglamento, la Unión Europea ha incorporado una serie de normas de armonización que se deben cumplir para introducir y utilizar sistemas de inteligencia artificial en el mercado europeo.
Para clarificar y estructurar las pautas armonizadoras, se ha clasificado el tratamiento de los sistemas de IA en función del riesgo que generan. En este sentido, se han llegado a reconocer cuatro tipos de sistemas: (i) los sistemas prohibidos, (ii) los sistemas de alto riesgo, (iii) los sistemas con riesgo limitado y, por último, (iv) los sistemas de riesgo mínimo. Pese a la relevancia de todos ellos, el presente artículo se centra únicamente en los sistemas de alto riesgo.
Así pues, son sistemas de alto riesgo aquellas herramientas de IA que pueden generar un riesgo significativo para la salud, la seguridad y los derechos fundamentales y pertenecen a alguno de los ámbitos listados en el Anexo III de la norma, entre los que destaca, entre otros, sistemas de identificación biométrica, sistemas de detección de comportamientos de los estudiantes durante los exámenes, los destinados a evaluar y filtrar las solicitudes en los procesos de selección de personal, debido a que existe un riesgo elevado de discriminación, etc.
Como consecuencia del potencial impacto que dichos instrumentos pueden ejercer en los clientes, previa introducción, comercialización y uso en el mercado, se exigirá a los proveedores que los sistemas cumplan con los siguientes requerimientos.
En primer lugar, el proveedor, junto a las mencionadas herramientas de IA, deberá establecer, implementar, documentar y mantener un sistema de gestión de riesgos. En segundo lugar, cuando los sistemas empleen técnicas de entrenamiento, se requerirá que estos se desarrollen mediante datos de entrenamiento, validación y prueba sujetos a prácticas de gobernanza y gestión de información idóneas. Asimismo, es imperativo que los sistemas de IA de alto riesgo vengan acompañados de un manual detallado que contenga instrucciones claras de uso, así como de un documento que describa exhaustivamente sus características técnicas. No solo se exigirá esto, sino que, además, los mencionados instrumentos deberán registrar de forma automática todos los acontecimientos realizados a lo largo de su ciclo de vida. Finalmente, también será necesario que los sistemas estén diseñados tanto para que puedan ser vigilados por personas físicas, como para que logren obtener un nivel adecuado de precisión, solidez y ciberseguridad.
En conclusión, mediante el nuevo Reglamento de la Unión Europea que entrará en vigor en agosto de 2024, se establecen, por fin, una serie de requerimientos que tienen que cumplir todos los sistemas de IA, y en especial, los de alto riesgo, antes de su entrada en el mercado europeo. Con ello, se conseguirá regular y controlar los mencionados sistemas desde el inicio de su ciclo vital para finalmente prevenir y mitigar su impacto negativo en los derechos fundamentales, la salud y la seguridad de los usuarios.
Podéis leer el reglamento completo a través del siguiente enlace: https://www.boe.es/buscar/doc.php?id=DOUE-L-2024-81079
[1] https://www.newtral.es/inteligencia-artificial-empresas-europeas/20240604/
