Qué sistemas de IA quedan prohibidos
La ley clasifica los sistemas de IA según su nivel de riesgo, adoptando el esquema del reglamento europeo. En la categoría de riesgo inaceptable, es decir prohibidos, quedan varios tipos de herramientas que ya generaban debate público.
Entre los más relevantes, sistemas que usan técnicas subliminales para manipular decisiones, herramientas que explotan vulnerabilidades relacionadas con la edad, discapacidad o situación económica para modificar el comportamiento de las personas, sistemas de clasificación biométrica de usuarios, y plataformas que califican a las personas en base a sus comportamientos sociales, lo que en la práctica describe los sistemas de "crédito social" al estilo chino.
A esa lista, España agrega los deepfakes sexuales y el material de abuso infantil generado o modificado con IA. Son dos categorías que el reglamento europeo original no contemplaba de forma explícita y que la presión de varios países miembros logró incorporar al marco comunitario.
Las multas: millones de euros
El régimen de sanciones sigue el esquema europeo pero con sus diferencias. Las infracciones más graves pueden derivar en multas de hasta 35 millones de euros o el 7% del volumen de negocio global de la empresa, lo que sea mayor.
Las infracciones leves pueden costar hasta 500.000 euros o el 0,5% de la facturación anual.
La ley contempla flexibilidad para las autoridades en la aplicación. Pueden tener en cuenta la gravedad, la intencionalidad y la reincidencia. También incluye mecanismos de corrección antes que de penalización, descuentos por pago rápido, adopción de medidas correctoras, y protecciones específicas para pymes y startups, que no enfrentarán el mismo baremo que las grandes empresas.
Qué cambia para el sector público español
Más allá de las empresas privadas, la ley introduce cambios concretos para el Estado.
El primero es un inventario obligatorio de todos los sistemas de IA usados en procedimientos administrativos, no solo los de alto riesgo, sino todos. Es una medida de transparencia que obliga al propio gobierno a mapear y declarar qué tecnología usa para tomar decisiones que afectan a los ciudadanos.
El segundo es la figura del "delegado de inteligencia artificial": un funcionario específico en cada organismo público responsable de coordinar la aplicación de las normativas, asesorar en proyectos institucionales y supervisar las contrataciones de tecnología. El diseño detallado del cargo se desarrollará por decreto.
La ley también contempla programas de formación obligatoria para empleados públicos, para asegurar que quienes usan herramientas de IA en la administración del Estado sepan qué están usando y bajo qué reglas.
El argumento político detrás de la ley
Óscar López, ministro de Transformación Digital, presentó la norma como parte de lo que llama "la tercera vía europea": ni la desregulación al estilo estadounidense ni la restricción al estilo chino, sino innovación con derechos.
"El 77% de la población española pide mayor protección de sus derechos digitales frente a la IA", dijo el ministro para justificar la necesidad de la ley. Es un argumento que tiene resonancia en un contexto donde la resistencia pública a la IA está creciendo en toda Europa y en Estados Unidos, con protestas, bloqueos de centros de datos y encuestas que muestran desconfianza generalizada.
La paradoja que la ley intenta resolver es la misma que enfrentan todos los gobiernos que quieren regular la IA: ser lo suficientemente restrictivos para proteger derechos sin ser tan restrictivos como para frenar la innovación y ceder terreno competitivo a países con menos regulación.
Que España haya logrado que la UE adopte su posición sobre deepfakes sexuales es un indicador de que, al menos en ese punto, el enfoque tuvo tracción internacional.
El proyecto ahora va al Congreso de los Diputados, donde todavía puede modificarse antes de convertirse en ley definitiva.
--------------
Más contenido de Urgente24
NASA revela próximos pasos para que astronautas vivan en la Luna: Qué hará
Argentina ya no produce rulemanes y China festeja: Caputo levanta la barrera
La empresa líder en el mercado de retail deportivo y calzado de la Argentina cierra su fábrica
Etiquetado Frontal: Complot de La Libertad Avanza contra la Salud de los argentinos
El duro mensaje que Telefe le dio a Andrea del Boca: "Ya no le causa gracia"
