En un avance significativo en la regulación de la Inteligencia Artificial, la Unión Europea ha decidido prohibir la comercialización y el uso de sistemas que generen ‘deepfakes’ sexuales. Esta medida fue acordada en una negociación tripartita que involucró al Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea, concluyendo en la madrugada del 7 de mayo.
La iniciativa, impulsada por el Gobierno español, surge como respuesta a la controversia desatada a principios de año por el asistente virtual Grok, que había generado imágenes inapropiadas de mujeres y menores. La propuesta recibió apoyo para su inclusión en la reforma de la Ley Europea de Inteligencia Artificial desde marzo.
Nuevas regulaciones contra prácticas ilegales
El acuerdo establece dos prácticas prohibidas bajo esta nueva legislación: por un lado, se prohíbe crear o manipular imágenes, vídeos o audios realistas que representen partes íntimas o actividades sexuales sin el consentimiento explícito de las personas afectadas; por otro lado, se penaliza también la generación o manipulación de pornografía infantil.
Óscar López, ministro para la Transformación Digital y de la Función Pública, celebró el acuerdo destacando que “España sigue liderando el despliegue de un modelo europeo propio de IA”, añadiendo que esta medida complementa las iniciativas recientes del Gobierno en favor de una mayor protección digital para menores.
Protección infantil y simplificación legislativa
La ley española para la protección de menores es pionera en Europa y contempla reformas al Código Penal para castigar tanto los ‘deepfakes’ sexuales como el grooming. Esta normativa busca proteger a niños y adolescentes en entornos digitales, garantizando su derecho a la intimidad y a un acceso seguro a contenidos apropiados.
Además, se ha debatido intensamente sobre cómo trasladar las obligaciones del Reglamento de IA a normativas sectoriales existentes. España se opuso firmemente a esta idea, argumentando que podría llevar a una desregulación perjudicial. Finalmente, solo se aplicará esta transferencia a maquinaria industrial con salvaguardias específicas.
Compromiso con una IA confiable
El acuerdo también incluye mantener un registro simplificado para sistemas considerados no riesgosos bajo el Anexo III del Reglamento. Esto facilitará el control por parte de las autoridades competentes. Asimismo, se reafirma la obligación de alfabetización en IA para proveedores y responsables del despliegue, promoviendo un entorno más seguro y educado respecto al uso de estas tecnologías.
El Gobierno español considera este acuerdo como un paso importante hacia un marco regulatorio que apoye a las empresas en su innovación tecnológica mientras asegura un uso responsable y respetuoso con los derechos humanos. La ratificación formal del acuerdo político está prevista antes del receso veraniego por parte del pleno del Parlamento y los ministros del Consejo.
Si (
No(
