La rápida evolución de la tecnología ha traído consigo impactos positivos y negativos en la sociedad. Uno de los trends preocupantes que ha surgido es el uso de aplicaciones de inteligencia artificial (IA) por parte de estudiantes para crear imágenes de desnudos. Un reciente informe gubernamental ha resaltado este problema, advirtiendo que no solo los niños descargan estas aplicaciones, sino que también las comparten ilegalmente con sus amigos. Además, bandas del crimen organizado están aprovechando estas aplicaciones para extorsionar a los niños con imágenes explícitas generadas por computadora.
El informe, redactado por el Consejo del Reino Unido para la Seguridad en Internet, brinda orientación a los docentes sobre cómo abordar el problema de los estudiantes que comparten imágenes explícitas. Se enfatiza la necesidad de tratar las imágenes generadas por IA, deepfakes y casos de «sextorsión» con la misma seriedad que las imágenes de desnudos tradicionales. Esto incluye abstenerse de ver o borrar las imágenes, contactar inmediatamente a las autoridades y retener información de los padres en ciertas instancias.
Los defensores y expertos han acogido favorablemente esta orientación, pero se solicita que se tomen medidas más estrictas por parte de organismos reguladores como Ofcom, que supervisa la Ley de Seguridad en Línea 2023. Los críticos argumentan que se necesita un enfoque más proactivo y completo para frenar la proliferación de desnudos generados por IA.
Actualmente, es ilegal compartir porno deepfake o imágenes de desnudos generadas por IA de adultos sin su consentimiento. También está prohibido amenazar con compartir dicho contenido. Sin embargo, la creación de desnudos de adultos con IA sigue siendo legal. Por otro lado, la ley criminaliza explícitamente la creación, posesión y distribución de imágenes de desnudos o sexuales de niños, incluidas las fotos generadas por IA, ya que constituye abuso sexual infantil.
Cabe destacar que compartir imágenes explícitas de manera consensuada entre individuos menores de 18 años ahora se clasifica como un delito. Además, es ilegal que los menores creen y compartan desnudos generados por IA de sus compañeros de clase. La intención detrás de estas leyes es proteger a los jóvenes de la explotación y el abuso.
Los expertos han expresado preocupaciones sobre la accesibilidad de las aplicaciones de creación de desnudos con IA, lo que ha contribuido a un aumento de la explotación virtual de mujeres y niñas. La profesora Clare McGlynn de la Universidad de Durham ha identificado dos escenarios principales: jóvenes que utilizan estas aplicaciones para crear desnudos falsos de sus compañeras para intercambiarlos y compartirlos, y estafadores organizados que producen desnudos deepfake y los utilizan como material de chantaje. La profesora McGlynn enfatiza la necesidad de una mayor conciencia sobre este tema e insta a las víctimas a informar sus experiencias sin temor a ser culpabilizadas.
Si bien el informe gubernamental reconoce el aumento significativo de los casos de «sextorsión» impulsados por el uso de aplicaciones de IA, también asegura al público su compromiso con la seguridad en línea. Según un portavoz del gobierno, la Ley de Seguridad en Línea ofrece protecciones sólidas para los niños y ha criminalizado la compartición de imágenes íntimas deepfake sin consentimiento. A su vez, se ha otorgado nuevas responsabilidades a las plataformas de medios sociales para evitar la difusión de contenido ilegal, con multas potenciales que alcanzan miles de millones de libras esterlinas.
Ante estos desarrollos, se están debatiendo posibles medidas para abordar esta problemática. Peter Kyle, secretario de ciencias en la sombra del Partido Laborista, está considerando supuestamente prohibir las aplicaciones de desnudos y la tecnología deepfake. Por su parte, Susie Hargreaves, directora ejecutiva de la Fundación para la Vigilancia en Internet, enfatiza la grave amenaza que representa la tecnología de IA en manos de criminales y hace un llamado a la acción colectiva para proteger a los niños de la explotación y el abuso.
Preguntas Frecuentes (FAQ)
The source of the article is from the blog macnifico.pt