Inteligencia artificial: su regulación

La Inteligencia Artificial es una realidad en el día a día de cualquier asesoría o despacho de abogados, razón por la cual, la Unión Europea, a principios de Diciembre de 2023, ha alcanzado un hito histórico en la Unión Europea pues se consensuaba la primera normativa en Inteligencia Artificial que, si bien es de carácter provisional, se prevé que entre plenamente en un par de semanas, convirtiéndose, así, en la primera Ley sobre Inteligencia Artificial.

¿Cuáles son las pretensiones de esta normativa?

Se pretende regular la Inteligencia Artificial en su integridad, de tal manera que, se incluya, por primera vez en la historia, una definición unánime sobre lo que se entiende por IA. A tal respecto, se suman preceptos en los que se ahondarán en una clasificación o, cuáles son las prácticas prohibidas.

Los diferentes niveles de riesgo en el ámbito de la Inteligencia Artificial, a priori y, teniendo en cuenta que aún no ha entrado en vigor la normativa, serían los siguientes:

En primer lugar, riesgo inaceptable, es decir, los que suponen una amenaza para los ciudadanos y que deben ser prohibidos de manera absoluta (manipulación cognitiva, puntuación social, sistema de identificación biométrica, si bien, con excepciones…), lo que aparentemente vendrá regulado en el artículo 3 de la Ley sobre Inteligencia Artificial.
En segundo lugar, los que tengan alto riesgo, es decir, aquellos que afecten a la seguridad o a los derechos fundamentales y, que pueden ser de dos tipos. Ambos, serán sometidos a un exhaustivo control previo a su comercialización, así como a una evaluación obligatoria del impacto sobre los derechos fundamentales, lo que será aplicable a los sectores bancarios y de seguro. También pertenecen a alto riesgo aquellos sistemas de IA que influyan en el resultado de elecciones o en el comportamiento de los votantes, teniendo los ciudadanos derechos a presentar quejas y a recibir información motivada.
Adicionalmente, la meritada normativa, trae consigo sanciones y multas elevadas cuando se vulneren los preceptos de la misma. Así pues, se podrán establecer multas que van desde los siete millones y medio de uros o el 1,5% del volumen de negocio a otras superiores que alcanzarían los treinta y cinco millones o el 7% del volumen, dependiendo todo ello del tipo de infracción o del tamaño de la empresa.

De un lado, aquellos que estén sujetos a la legislación de la Unión Europea sobre seguridad de los productos (véase: juguetes)

De otro lado, los que pertenezcan a las siguientes ramas específicas y, que deberán estar registrados en una base de datos de la Unión Europea:

  • Identificación biométrica y categorización de personas físicas (nuevamente el artículo 3 de la citada normativa).
  • Gestión y explotación de infraestructuras críticas.
  • Educación y formación profesional.
  • Empleo, gestión de trabajadores y acceso al autoempleo.
  • Acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas.
  • Aplicación de la ley.
  • Gestión de la migración, el asilo y el control de fronteras.
  • Asistencia en la interpretación jurídica y aplicación de la ley.

En tercer lugar, se encuentra la Inteligencia Generativa, destacando el conocido ChatGPT, el cual debe cumplir con unos requisitos de transparencia como es, indicar que el contenido proviene de la Inteligencia Artificial, desarrollo de un sistema que no produzca contenidos prohibidos…

Para el caso en que se utilicen modelos muy potentes que puedan derivar en riesgos sistemáticos, se establecerán obligaciones adicionales en su gestión, así como deberán ser evaluadas y realizar pruebas, todo ello con la finalidad de garantizar la ciberseguridad e informar sobre su eficiencia energética.

Y, en cuarto lugar, el llamado riesgo limitado, en donde deben cumplirse una serie de condicionantes de transparencia y, entre los que se pueden mencionar los sistemas de Inteligencia Artificial que manipulan contenido como pueden ser imágenes, audios o vídeos (véase: deepfakes).

La pretensión principal, por tanto, no es sino proteger a los ciudadanos, garantizando así a sus desarrolladoras un código de buenas prácticas sobre la Inteligencia Artificial. Así lo ha transmitido la Secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas Es una ley muy buena que impulsará la innovación y de forma compatible con los derechos fundamentales”.

A mayor abundamiento, la legislación ahonda en Propiedad Intelectual, esto es, en los Derechos de Autor y ello por cuanto se trata de una cuestión compleja estableciendo la nueva normativa que:los sistemas GPAI y modelos en los que se basan tendrían que cumplir los requisitos de transparencia propuestos inicialmente por el Parlamento, así como “la elaboración de documentación técnicas, el cumplimiento de la normativa de la UE sobre derechos de autor y la difusión de resúmenes detallados sobre el contenido usado en la formación”.

¿Hay algún país que haya regulado ya la Inteligencia Artificial?

Hay algunos países que ya han iniciado sus propuestas para regular la Inteligencia Artificial como son Argentina, Brasil o China, mientras que, en el caso de China, ya tienen su normativa en vigor (es decir, la llamada autorregulación).

También, Estados Unidos, Reino Unido o México, habida cuenta del desarrollo tecnológico, han decidido comenzar a desarrollar su regulación en materia de Inteligencia Artificial.

En este sentido, en el caso de Estados Unidos, a finales de Octubre de 2023, Joe Bien, firmó una Orden ejecutiva sobre el desarrollo y uso seguro y confiable de la Inteligencia Artificial. 

¿Hay alguna Sentencia española en materia de Inteligencia Artificial?

Sí y, entre otras, se encuentra la Sentencia del Tribunal Supremo, Sala de lo Contencioso – Administrativo, de 10 de Marzo de 2022, la cual alude a la Inteligencia Artificial y, señala, entre otros puntos relevantes: Que, la Dirección General de Digitalización e Inteligencia Artificial ejercerá, sin perjuicio de las competencias atribuidas al Instituto Nacional de Estadística, el desarrollo normativo, aspectos éticos y regulación en materia de Inteligencia Artificial y demás tecnologías habilitadoras digitales para la transformación de la economía y la sociedad.

Inteligencia artificial

Deja un comentario

Todos los comentarios son moderados antes de ser publicados