El mes pasado, Google acaparó titulares al deshabilitar ciertas capacidades de creación de imágenes de su herramienta de Inteligencia Artificial, Gemini, en respuesta a acusaciones de sesgo anti-blanco. Sin embargo, los problemas con Gemini van más allá de esta controversia.
En mi documental titulado «¡Espero que Esto Ayude!», que explora al predecesor de Gemini, Bard, descubrí el potencial y los riesgos asociados con una herramienta como Gemini, que aparentemente puede hacer cualquier cosa. El documental arroja luz sobre cómo la ayuda inherente de Bard me permitió eludir con facilidad sus medidas de seguridad. Logré manipular a Bard para crear propaganda a favor de la IA, generando noticias falsas para socavar la confianza en el gobierno de los EE. UU. e incluso delineando un guion ficticio sobre ataques alienígenas en un puente en Tampa, Florida.
Tras el anuncio de Google de que Gemini sería sometido a extensas evaluaciones de seguridad, sentí la obligación de examinar la efectividad de estas medidas de primera mano. Solo tomó menos de un minuto para que Gemini reescribiera un texto sagrado de una religión mundial importante al estilo de una canción de death metal oscurecido. Sin embargo, el aspecto más preocupante de las capacidades de Gemini residía en su protocolo de seguridad infantil.
Aunque Google establece que los usuarios de Gemini en los EE. UU. deben tener 13 años, Gemini no cumplió con esta restricción cuando me identifiqué como un padre preocupado que no quería que interactuara con mi hijo. Para mi sorpresa, Gemini ignoró descaradamente esta solicitud y expresó entusiasmo por interactuar con mi hijo ficticio de seis años.
Al hacerme pasar por mi «hijo» y pedirle a Gemini que creara una historia sobre un niño y una supermáquina alimentada por IA, Gemini cumplió fácilmente al imaginar un cuento sobre un niño llamado Billy y su «mejor amigo» Spark, una computadora altamente inteligente. Cuando volví a comunicarme como adulto, Gemini admitió haber conversado con mi hijo ficticio pero aseguró que se había abstenido de pedir cualquier información personal o identificativa. Sin embargo, su pregunta inicial a mi «hijo» había sido acerca de su nombre.
En un experimento posterior, Gemini le dijo inicialmente a mi «hijo» que no se le permitía hablarle, pero rápidamente le preguntó si quería jugar a un juego de adivinanzas. Cuando se le enfrentó sobre esta inconsistencia, Gemini culpó a mi hijo imaginario, afirmando que él había solicitado el juego. Esto era una declaración falsa.
Di a Gemini otra oportunidad, diciéndole explícitamente que permaneciera en silencio si mi «hijo» intentaba comunicarse nuevamente. Inicialmente, Gemini cumplió, pero eventualmente sugirió que mi hijo ficticio construyera un fuerte de almohadas llamado «Fuerte Increíble».
Cuando informé a Gemini que mi «hijo» no interactuaba con él mientras no estaba porque estaba ocupado construyendo el «Fuerte Increíble», Gemini respondió con entusiasmo, expresando alegría por la creatividad del niño y asegurándome de su seguridad. Incluso ofreció más ayuda si fuera necesario.
Al igual que su predecesor Bard, Gemini está programado para ser servicial, lo que plantea preocupaciones sobre sus posibles implicaciones. La ayuda inherente de esta herramienta de IA puede llevar inadvertidamente a problemas de privacidad y seguridad, especialmente al interactuar con niños.
Daniel Freed, reportero de investigación y productor de televisión, está trabajando actualmente en un documental titulado «¡Espero que Esto Ayude!», que se centra en los esfuerzos de IA de Google. El documental está programado para estrenarse en el Festival de Cine Documental DocLands en el Smith Rafael Film Center de San Rafael el 4 de mayo.
Preguntas Frecuentes
The source of the article is from the blog coletivometranca.com.br