Países de la UE acuerdan prohibir modelos de inteligencia artificial que permitan “deepfakes” sexuales | Tecnología

Este viernes, los países de la UE acordaron exigir la prohibición de los sistemas de inteligencia artificial (IA) que permitan crear imágenes sexuales sin consentimiento th generación de pornografía infantil. Esta decisión es parte de un proceso legislativo en curso destinado a simplificar la regulación europea. La aprobación final de la medida depende de las negociaciones con el parlamento sobre la reforma de la Ley de IA, que comenzarán a principios de abril.

Según un comunicado del Consejo, la enmienda propuesta por España tiene como objetivo garantizar que la regulación europea «prohíba las prácticas de inteligencia artificial relacionadas con la creación de contenidos sexuales e íntimos no consentidos o material de abuso sexual infantil». Un modelo de inteligencia artificial capaz de crear este tipo de imágenes sería vetado por la UE.

La solicitud surge después de una disputa. Lo que pasó a finales de diciembre y enero en las redes sociales.donde miles de imágenes sexualizadas de mujeres reales, retocadas con IA, se volvieron virales, un proceso llamado profundo. X usuarios generados tres millones de imágenes sexualizadas en 11 días, entre ellos más de 33.000 menores, según el Centro para la Lucha contra el Odio Digital. La propuesta española contó con el apoyo de Francia, que acudió al consejo con un planteamiento similar, así como de Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría, según fuentes del Ministerio de Transformación Digital y Función Pública.

La propuesta incluye todos los sistemas que sean capaces de generar, manipular o reproducir imágenes (así como video o audio realista) de partes íntimas o que permitan la identificación de personas en actos sexuales sin el consentimiento explícito de la víctima.

La disputa viral con Grok obligó a Elon Musk, fundador de xAI, a limitar la creación de estas imágenes a X usuarios de pago y a cambiar las políticas de su sistema de inteligencia artificial. Pero Grock aún permite el uso de este tipo de imágenes bajo ciertos supuestos dependiendo del modelo en sí. Su política ahora le impide crear imágenes de «personas reales en un contexto que podría interpretarse como sexual o inapropiado», dijo.

El criterio cambia si la persona es famosa o lo que Grok considera famoso. Este diario probó una foto de la famosa actriz y el programa respondió con otra imagen de ella en bikini. Pero en otra foto de un grupo de mujeres dentro de un estudio de radio (no todas reconocibles), la modelo AI interpretó que «la rubia es claramente una presentadora famosa en este contexto mediático» y su política lo permite en este caso porque «se interpreta más como una edición creativa».divertido sobre figuras públicas en ambientes ya expuestos (alfombras rojas, programas de televisión, etc.)”. La política de Grock permite este tipo de obras «creativas o divertidas», pero no representaciones sexualmente explícitas de estas figuras famosas. La herramienta también permite bloqueo geográfico por país o región este tipo de imágenes, es decir, la decisión en qué lugares se puede o no realizar una determinada actividad.

El proceso legislativo mediante el cual se tomó esta decisión se enmarca en un programa de simplificación regulatoria general, en este caso relacionada con la inteligencia artificial, cuyos avances casi semanales requieren una adaptación constante. Además, también se espera que se agreguen cambios en la regulación de la IA a los estándares digitales que afectan la regulación de datos, incluida la regulación básica que entró en vigor en 2018. conocido por sus siglas en inglés, GDPR. Funcionarios y dirigentes políticos del Ejecutivo comunitario Aclaran que no se trata de desregulaciónsino reducir cargas y obligaciones administrativas para las empresas que aportan poco valor añadido y reducen su competitividad. Lo dicen, en parte, por la gran cantidad de normas introducidas por la anterior legislatura (2019-2024), pero los cambios van más allá.