Las instituciones de la Unión Europea han alcanzado un acuerdo para prohibir en todo el territorio comunitario el uso de sistemas de Inteligencia Artificial (IA) destinados a la creación de deepfakes sexuales. La medida, impulsada inicialmente por la delegación española el pasado mes de enero, surge como respuesta tras la polémica generada por los desnudos de mujeres y menores creados por Grok, el asistente virtual de la red social X.
El consenso alcanzado entre el Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea integra una enmienda específica en la futura Ley de IA. Este texto prohíbe explícitamente la comercialización y puesta en servicio de herramientas capaces de manipular imágenes, audios o vídeos realistas de contenido sexual sin el consentimiento expreso de la persona afectada, así como cualquier sistema que genere pornografía infantil.
Un marco regulatorio para la IA confiable
El ministro para la Transformación Digital y de la Función Pública, Óscar López, ha valorado positivamente el encaje de esta normativa con las políticas nacionales. Según el ministro, esta decisión refuerza la seguridad jurídica en el entorno digital:
“España sigue liderando el despliegue de un modelo europeo propio de IA, que ha de caracterizarse por ser el más confiable de todos. Celebramos este acuerdo en la UE, que sigue la línea de las iniciativas aprobadas en los últimos meses”.
Esta regulación europea guarda una estrecha relación con la Ley Orgánica para la protección de las personas menores de edad en los entornos digitales, actualmente en tramitación en el Congreso de los Diputados. Dicha norma prevé reformas en el Código Penal para castigar la creación de estos contenidos y combatir fenómenos como el grooming o engaño online a menores.
Simplificación normativa y seguridad jurídica
Durante las negociaciones, también se abordó la estructura técnica del Reglamento de IA. España mantuvo una postura firme contra la fragmentación del mercado interior, logrando que los requisitos específicos de la inteligencia artificial se incorporen de manera coherente en sectores como la maquinaria industrial, evitando una desregulación por normativas sectoriales dispersas.
Asimismo, el acuerdo contempla un registro simplificado para aquellos sistemas que no se consideren de alto riesgo, siempre que no representen una amenaza para la salud o los derechos fundamentales. Para garantizar la correcta implementación, se establece la obligación de promover la alfabetización de IA tanto en proveedores como en responsables del despliegue, fomentando la cooperación entre la oficina europea de IA y las autoridades nacionales.
Se prevé que el acuerdo político sea ratificado formalmente por el pleno del Parlamento y el Consejo antes del próximo receso de verano, consolidando un marco de innovación tecnológica que prioriza el respeto a los derechos humanos y la protección de los colectivos más vulnerables.