En la próxima temporada electoral, la propagación de desinformación se ha convertido en una preocupación importante para personas como Jency Jacob, Editor Gerente de BoomLive. Mientras Jacob y su equipo han estado trabajando activamente para combatir las noticias falsas extendidas a través de internet y las redes sociales, el surgimiento de la Inteligencia Artificial (IA) ha complicado las cosas.
Uno de los mayores desafíos de esta temporada electoral es la utilización de nuevas tecnologías, como la IA, por parte de varios actores. Durante las recientes elecciones estatales, hubo un aumento en el uso de audio clonado generado por IA para engañar a los votantes. A medida que la tecnología se vuelve más avanzada, se vuelve cada vez más difícil detectar este tipo de engaño.
En el contexto indio, ha habido un aumento en el uso de «falsificaciones baratas», pero aún no deep fakes. Jacob destaca un incidente específico que involucra un videoclip de audio que se volvió viral el año pasado. El clip presentaba una voz en off falsa del reconocido actor Amitabh Bachchan haciendo una pregunta difamatoria a un participante en un popular programa de televisión. El contenido fue perjudicial, ya que retrataba al entonces jefe de gobierno estatal MP, Shivraj Singh Chouhan, como un criminal. A pesar de los esfuerzos por demostrar su autenticidad, el clip ya había sido visto y compartido por millones de personas, causando un daño significativo.
Para abordar estos desafíos, el equipo de Jacob colabora con el equipo de desinformación en Meta, que incluye a Facebook, WhatsApp e Instagram. Trabajan para identificar deep fakes, aunque el destino del contenido señalado aún es incierto. En cambio, Google resulta ser una entidad frustrante de tratar, ya que no coopera y sus algoritmos permanecen opacos.
Sin embargo, Google niega las acusaciones de descuido en la moderación de contenido. Afirman que su sistema de recomendación se basa en principios que han resistido la prueba del tiempo. La compañía asegura que sus sistemas se actualizan continuamente y que la moderación de contenido es una combinación de revisión manual y automatizada.
A medida que se acerca la temporada electoral, es importante evaluar realistamente la posible propagación de desinformación. Puede haber un aumento en los avisos de eliminación y puede haber presión sobre las empresas tecnológicas para eliminar noticias incómodas. Si bien Google puede resistir tales presiones, un alto ejecutivo de Google reconoce que la demanda de control y supresión de información aumenta cuando los políticos están en el poder.
En conclusión, el advenimiento de nuevas tecnologías como la IA plantea desafíos significativos en la lucha contra la desinformación durante las temporadas electorales. A pesar de los esfuerzos de personas como Jency Jacob, la propagación de noticias falsas sigue siendo una preocupación, especialmente cuando entidades poderosas como Google no pueden colaborar eficazmente en la lucha contra este problema.
The source of the article is from the blog hashtagsroom.com