Según anuncia el Parlamento Europeo partir de hoy, todas las organizaciones que utilicen sistemas de Inteligencia Artificial deben disponer de un sistema de cumplimiento acorde a los requisitos del reglamento (excluyendo aquellas que no vayan a usar IA).
Esto se traduce en que, de manera efectiva, ya no está permitido el uso de ciertas prácticas de IA consideradas prohibidas y, además, se establece la necesidad de formación en materia de IA para todos los proveedores, responsables del despliegue y personas involucradas.
Prácticas prohibidas a partir del 2 de febrero de 2025
- Manipulación cognitiva y conductual
Se consideran ilegales los sistemas de IA diseñados para dirigir el comportamiento humano de manera subliminal o aprovechando vulnerabilidades (edad, discapacidad, etc.), con el objetivo de provocar daños físicos o psicológicos.
- Explotación de vulnerabilidades
Queda vetado el uso de herramientas de IA que saquen partido de las limitaciones de personas o grupos vulnerables (salud mental, condición socioeconómica, etc.), con la finalidad de distorsionar su conducta de forma perjudicial.
- Puntuación social basada en IA
No se podrá utilizar la IA para generar puntuaciones de comportamiento o reputación social, ya sea a nivel gubernamental o privado, si dicha información se emplea para restringir el acceso a servicios o beneficios.
- Uso indiscriminado de reconocimiento facial y biometría en espacios públicos
Se prohíbe la identificación biométrica en tiempo real (p. ej., reconocimiento facial) en lugares públicos, excepto en escenarios muy concretos como la lucha contra el terrorismo o la búsqueda de personas desaparecidas, y siempre bajo autorización judicial.
- Bases de datos de reconocimiento facial obtenidas de forma ilegal
No será posible la creación o utilización de amplios bancos de imágenes faciales recopiladas sin consentimiento o de manera ilícita (por ejemplo, tomadas de redes sociales sin autorización).
Formación obligatoria
Además, se establece la necesidad de alfabetizar en materia de IA a todos los actores involucrados en su diseño, desarrollo y despliegue. Este requisito busca asegurar un conocimiento profundo sobre los riesgos y oportunidades de la IA, así como la protección de los derechos fundamentales de las personas.
Sanciones y cumplimiento
La Agencia Española de Supervisión de IA, AESIA, ha anunciado que podrá inspeccionar, recabar datos y sancionar a las organizaciones que infrinjan estas disposiciones. Las multas económicas pueden alcanzar el 7% del volumen de negocio global o 35 millones de euros, dependiendo de la gravedad de la infracción.
Con la entrada en vigor de estas medidas, la UE da un paso decisivo hacia una regulación firme y clara de la Inteligencia Artificial, buscando proteger los derechos y libertades de los ciudadanos sin frenar la innovación tecnológica.
En síntesis, a partir del 2 de febrero de 2025, cualquier entidad que emplee IA deberá asegurarse de cumplir con los preceptos del AI Act, prestar especial atención a las prácticas vetadas y formar a sus equipos para un uso responsable de la tecnología.
