La Unión Europea ha aprobado la propuesta del Gobierno de España para prohibir los 'deepfakes' sexuales en todo el territorio comunitario. Este acuerdo, alcanzado en una negociación tripartita entre el Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea, responde a la necesidad de proteger a las personas, especialmente a menores, de contenidos generados sin su consentimiento. La enmienda incluye la prohibición de crear o manipular imágenes o vídeos que involucren partes íntimas y pornografía infantil. El ministro Óscar López destacó que España lidera un modelo europeo de inteligencia artificial confiable y que este acuerdo refuerza iniciativas recientes para proteger a los menores en entornos digitales. Se espera que el acuerdo sea ratificado formalmente antes del receso de verano.
En un avance significativo en la regulación de la Inteligencia Artificial, la Unión Europea ha decidido prohibir la comercialización y el uso de sistemas que generen ‘deepfakes’ sexuales. Esta medida fue acordada en una negociación tripartita que involucró al Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea, concluyendo en la madrugada del 7 de mayo.
La iniciativa, impulsada por el Gobierno español, surge como respuesta a la controversia desatada a principios de año por el asistente virtual Grok, que había generado imágenes inapropiadas de mujeres y menores. La propuesta recibió apoyo para su inclusión en la reforma de la Ley Europea de Inteligencia Artificial desde marzo.
El acuerdo establece dos prácticas prohibidas bajo esta nueva legislación: por un lado, se prohíbe crear o manipular imágenes, vídeos o audios realistas que representen partes íntimas o actividades sexuales sin el consentimiento explícito de las personas afectadas; por otro lado, se penaliza también la generación o manipulación de pornografía infantil.
Óscar López, ministro para la Transformación Digital y de la Función Pública, celebró el acuerdo destacando que “España sigue liderando el despliegue de un modelo europeo propio de IA”, añadiendo que esta medida complementa las iniciativas recientes del Gobierno en favor de una mayor protección digital para menores.
La ley española para la protección de menores es pionera en Europa y contempla reformas al Código Penal para castigar tanto los ‘deepfakes’ sexuales como el grooming. Esta normativa busca proteger a niños y adolescentes en entornos digitales, garantizando su derecho a la intimidad y a un acceso seguro a contenidos apropiados.
Además, se ha debatido intensamente sobre cómo trasladar las obligaciones del Reglamento de IA a normativas sectoriales existentes. España se opuso firmemente a esta idea, argumentando que podría llevar a una desregulación perjudicial. Finalmente, solo se aplicará esta transferencia a maquinaria industrial con salvaguardias específicas.
El acuerdo también incluye mantener un registro simplificado para sistemas considerados no riesgosos bajo el Anexo III del Reglamento. Esto facilitará el control por parte de las autoridades competentes. Asimismo, se reafirma la obligación de alfabetización en IA para proveedores y responsables del despliegue, promoviendo un entorno más seguro y educado respecto al uso de estas tecnologías.
El Gobierno español considera este acuerdo como un paso importante hacia un marco regulatorio que apoye a las empresas en su innovación tecnológica mientras asegura un uso responsable y respetuoso con los derechos humanos. La ratificación formal del acuerdo político está prevista antes del receso veraniego por parte del pleno del Parlamento y los ministros del Consejo.