El avance de la tecnología de inteligencia artificial (IA) ha traído numerosos beneficios y avances en diversas industrias. Sin embargo, en medio de este progreso, ha surgido el lado oscuro de la IA, ya que expertos en seguridad infantil e investigadores advierten sobre los riesgos potenciales que plantea en la exacerbación de la explotación en línea.
Según el Centro Nacional de Niños Desaparecidos y Explotados de Estados Unidos (NCMEC), hubo 4,700 informes el año pasado sobre contenido generado por IA que representaba explotación sexual infantil. Esta cifra alarmante indica la aparición de un problema que se espera que crezca a medida que la tecnología de IA continúe evolucionando.
Si bien el NCMEC aún no ha revelado el número total de informes de contenido de abuso infantil que recibió de todas las fuentes en 2023, la organización reveló que recibió aproximadamente 88.3 millones de archivos solo en 2022. Estos informes provienen de las propias empresas de IA generativa, plataformas en línea e individuos que se encuentran con contenido perturbador de este tipo.
Reconociendo la necesidad urgente de abordar este problema, el NCMEC desempeña un papel crucial como el centro nacional de reporte de contenido de abuso infantil a las agencias de aplicación de la ley. John Shehan, vicepresidente senior del NCMEC, enfatizó que la explotación infantil facilitada por la IA está indudablemente ocurriendo.
Recientemente, los CEOs de Meta Platforms, X, TikTok, Snap y Discord se enfrentaron a preguntas en una audiencia del Senado centrada en la seguridad infantil en línea. Los legisladores interrogaron a estas empresas de redes sociales y mensajería sobre sus esfuerzos para proteger a los niños de los depredadores en línea.
Investigadores del Observatorio de Internet de Stanford emitieron un informe en junio, destacando la preocupante posibilidad de que los abusadores utilicen la IA generativa para crear nuevas imágenes que se asemejen estrechamente a niños reales. A medida que estos materiales generados por IA se vuelven cada vez más fotorealistas, distinguir entre víctimas reales y creaciones de IA plantea un desafío significativo.
Para combatir este creciente problema, OpenAI, la organización detrás del popular ChatGPT, ha instituido un sistema para transmitir informes al NCMEC. Además, se están llevando a cabo conversaciones entre el NCMEC y otras empresas de IA generativa para establecer medidas similares.
El surgimiento de la IA trae consigo innovación y responsabilidades. A medida que la sociedad continúa adoptando la tecnología de IA, es crucial mantenerse alerta para abordar las preocupaciones emergentes y proteger el bienestar de las personas vulnerables, especialmente los niños.
Preguntas frecuentes:
Q: ¿A qué se refiere el lado oscuro de la IA?
A: El lado oscuro de la IA se refiere a los posibles riesgos y repercusiones negativas de la tecnología de inteligencia artificial, especialmente en la exacerbación de la explotación en línea.
Q: ¿Cuántos informes hubo el año pasado sobre contenido generado por IA que representa explotación sexual infantil?
A: Según el NCMEC, hubo 4,700 informes el año pasado sobre contenido generado por IA que representa explotación sexual infantil.
Q: ¿Cuántos archivos recibió el NCMEC en 2022 relacionados con contenido de abuso infantil?
A: El NCMEC recibió aproximadamente 88.3 millones de archivos solo en 2022 relacionados con contenido de abuso infantil.
Q: ¿Cuál es el papel del NCMEC en abordar este problema?
A: El NCMEC desempeña un papel crucial como el centro nacional de reporte de contenido de abuso infantil a las agencias de aplicación de la ley.
Q: ¿Qué empresas de redes sociales y mensajería fueron interrogadas en una audiencia del Senado sobre la seguridad infantil en línea?
A: Los CEOs de Meta Platforms, X, TikTok, Snap y Discord fueron interrogados en una audiencia del Senado sobre la seguridad infantil en línea.
Q: ¿Qué destacó el informe del Observatorio de Internet de Stanford?
A: El informe del Observatorio de Internet de Stanford destacó la preocupante posibilidad de que los abusadores utilicen la IA generativa para crear nuevas imágenes que se asemejen estrechamente a niños reales.
Q: ¿Qué medidas han tomado OpenAI y otras empresas de IA generativa para combatir este problema?
A: OpenAI ha instituido un sistema para transmitir informes al NCMEC, y se están llevando a cabo conversaciones entre el NCMEC y otras empresas de IA generativa para establecer medidas similares.
Definiciones:
– IA (Inteligencia Artificial): Tecnología que permite a las máquinas realizar tareas que normalmente requerirían inteligencia humana.
– Contenido de abuso infantil: Contenido que representa la explotación o abuso sexual de niños.
– IA generativa: Inteligencia artificial capaz de generar nuevos datos o contenido, como imágenes o texto.
– NCMEC (Centro Nacional de Niños Desaparecidos y Explotados): Una organización nacional que se enfoca en prevenir el secuestro de niños, la explotación sexual infantil y encontrar a niños desaparecidos.
– Empresas de redes sociales y mensajería: Empresas que proporcionan plataformas y servicios en línea para que los usuarios se conecten, se comuniquen y compartan contenido con otros.
Enlaces sugeridos relacionados:
Centro Nacional de Niños Desaparecidos y Explotados
OpenAI
Universidad de Stanford
The source of the article is from the blog macnifico.pt