Alertan de la difusión de desnudos virtuales de menores por el empleo de inteligencia artificial
El Consejo Audiovisual de Andalucía muestra su preocupación por la difusión de contenidos como los desnudos falsos que ya afectan a menores
La irrupción de la inteligencia artificial (IA) está pervirtiendo los beneficios de facilitar nuestro día a día convirtiéndose en una peligrosa herramienta para determinados públicos.
De esta manera, el Consejo Audiovisual de Andalucía (CAA) ha alertado del impacto de la inteligencia artificial en los menores de edad al crearse y difundirse desnudos virtuales de adolescentes a raíz de la denuncia, en octubre de 2023, de la difusión de imágenes de desnudos virtuales creados mediante IA de chicas adolescentes por parte de compañeros de estudios también menores de edad en Almendralejo (Badajoz).
Así, el Consejo Audiovisual de Andalucía ha estudiado a lo largo de 2023 y 2024 los riesgos y los desafíos planteados por el uso de IA en el entorno audiovisual y digital. A su vez, estos trabajos se derivan de los realizados con anterioridad sobre la protección de los menores respecto a contenidos pornográficos o de cualquier otro tipo que no fueran adecuados en estos entornos digitales.
A partir de ese momento, en la Comisión de Contenidos del CAA se acordó abordar esta cuestión mediante reuniones con personas expertas y estudios de los servicios técnicos del órgano que desembocó en un informe realizado por el Área de Contenidos sobre las aplicaciones que permiten la realización de desnudos virtuales, cuyas preocupantes conclusiones motivaron un nuevo acuerdo del CAA sobre los riesgos de los sistemas de inteligencia artificial en el ámbito audiovisual y digital; especialmente la generación de imágenes virtuales de cuerpos desnudos.
Ante esta situación, el Consejo Audiovisual de Andalucía (CAA) constata y alerta sobre los riesgos que comporta en el ámbito audiovisual y digital "el rápido desarrollo de la inteligencia artificial y la transformación que supone en orden a la protección de los menores de edad en el entorno digital, la igualdad de género y la protección de los derechos fundamentales de los ciudadanos, especialmente, el derecho al honor y a la intimidad", denuncian.
Asimismo, el CAA muestra su preocupación por el efecto que la inteligencia artificial puede tener en la desinformación y en la difusión de fake news cuyos contenidos de extraordinario realismo hacen "muy difícil" para la ciudadanía discernir lo que es veraz de lo que no, por lo que aboga por el desarrollo de medidas efectivas, legales y técnicas, de detección de estos contenidos. Por todo ello, quieren hacer un llamamiento tanto a los medios audiovisuales como a la propia ciudadanía andaluza "para que estén alertas y no den credibilidad ni difusión a estos contenidos falsos".