España obligará identificar el contenido generado con IA

El Gobierno de España planea sancionar una Ley para identificar los contenidos generados con Inteligencia Artificial. El proyecto, también prevé un régimen de sanciones para quienes utilicen esas tecnologías de forma perversa, con multas que pueden alcanzar hasta los 35 millones de euros o el 7% de la facturación de una empresa.

Se trata de la Ley para el buen uso y la gobernanza de la inteligencia artificial. El anteproyecto fue aprobado este martes por el Consejo de Ministros y el Ejecutivo pretende asegurar un uso "ético, inclusivo y beneficioso" de esta tecnología y ~~ayudar a que los usuarios puedan diferenciar con nitidez los contenidos que son reales de los que son virtuales.~~

El ministro para la Transformación Digital y de la Función Pública de España, Óscar López, destacó la trascendencia de esta nueva norma, y se refirió a la inteligencia artificial como un "poderoso" instrumento que puede favorecer el crecimiento económico, la lucha contra muchas enfermedades o el desarrollo de nuevos fármacos, pero también ser una herramienta para difundir bulos, para expandir el odio y atacar a la democracia.

Óscar López, durante la rueda de prensa posterior al Consejo de Ministros, comentó que además del contenido de un informe sobre el uso de la inteligencia artificial y su implementación en España, y destacó que el estudio señala que el PIB nacional podría crecer hasta un 8% -más de 100.000 millones de euros- en los próximos diez años si se aplica esta tecnología de forma correcta.

El ministro enmarcó el nuevo anteproyecto en el "escudo europeo" que protege los derechos digitales. Además, se complementa con el anteproyecto de ley de servicios digitales y los medios de comunicación; el funcionario anticipó que la nueva norma adaptará la legislación española al reglamento europeo de Inteligencia artificial, que está ya en vigor.

Al igual que el reglamento europeo, el anteproyecto fija las prácticas prohibidas de la Inteligencia Artificial incluidos el uso de técnicas subliminales (como las imágenes o los sonidos imperceptibles) para manipular decisiones sin consentimiento, o el uso por ejemplo de un 'chatbot' que identifica usuarios con adicción al juego y les incita a entrar, con técnicas subliminales, en una plataforma de juego online.

También prohíbe explotar vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos que deriven en perjuicios. En este sentido, el ministro utilizó de ejemplo un juguete infantil habilitado con IA anime a los niños a completar retos que les pueden producir daños físicos graves.

El cuadro normativo también prohíbe la clasificación biométrica de las personas por raza u orientación política, religiosa o sexual, la puntuación de individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para denegarles la concesión de subvenciones o préstamos, o valorar el riesgo de que una persona cometa un delito basándose en datos personales como su historial familiar, su nivel educativo o su lugar de residencia.

~~Las sanciones para este tipo de sistemas van entre los 7,5 y los 35 millones de euros, o entre el 2% y el 7% del volumen de negocio mundial de la empresa responsable, aunque en el caso de las pymes podría ser inferior.~~

La ley establece además 'sistemas de alto riesgo', e incluye a todos los que se pueden añadir como elementos de seguridad a productos industriales, a juguetes, equipos radioeléctricos o productos sanitarios, o sistemas; los sistemas para la garantía del derecho, migración, asilo y gestión del control fronterizo; o los sistemas para su uso en la administración de justicia y en procesos democráticos.

Los mismos deben cumplir una serie de requisitos y en caso de incumplimientos se establecen también sanciones en función de la gravedad que pueden oscilar entre los 500.000 y los 7,5 millones de euros, o hasta el 2% y el 3% por ciento del volumen de negocio mundial del ejercicio anterior de la empresa responsable.