Garry Tan llama a una regulación prudente de la inteligencia artificial
Durante una discusión en el Economic Club en Washington, el CEO de Y Combinator, Garry Tan, enfatizó la inminente necesidad de regulaciones en la industria de la inteligencia artificial. Hablando con Teresa Carlson de la firma de capital de riesgo Basic Catalyst, expresó su amplio apoyo a medidas regulatorias similares a las que está desarrollando el Instituto Nacional de Normas y Tecnología (NIST).
La conversación con Tan abordó temas que van desde el acceso a Y Combinator hasta el panorama actual de la tecnología AI, donde señaló que nunca había sido un mejor momento para involucrarse en el trabajo tecnológico. Apoyó la orden ejecutiva de la administración de Biden, que tiene como objetivo establecer una serie de mandatos para las agencias centradas en AI, desde el intercambio de datos sobre seguridad hasta proporcionar acceso equitativo a pequeños desarrolladores.
Tan señaló que el marco de NIST sugiere varias iniciativas, como asegurarse de que la inteligencia artificial cumpla con las regulaciones existentes que rigen la privacidad de los datos y los derechos de autor, revelar el uso de AI generativa a los usuarios finales e implementar reglas para prevenir la generación de materiales que representen la explotación sexual de niños.
A pesar de su acuerdo con las regulaciones federales, Tan expresó su preocupación por las propuestas legislativas dentro de California y San Francisco, calificándolas como particularmente preocupantes. Esto incluye un proyecto de ley presentado por el senador estatal Scott Wiener que permitiría acciones legales contra empresas de AI si se considera que sus productos son perjudiciales.
El curso ético de la inteligencia artificial
Tan destacó la necesidad de una discusión reflexiva sobre «cómo realmente se vería una buena versión [de la regulación de AI]», señalando figuras como Ian Hogarth en el Reino Unido, que se enfoca en los controles y equilibrios y fomenta la innovación mientras mitiga posibles daños.
El enfoque de Y Combinator en la responsabilidad ética es claro; no financian startups si no están de acuerdo con su misión o impactos potenciales en la sociedad, afirmó Tan. Incluso al revisar solicitantes pasados que aparecen en los titulares, Tan reveló que a menudo descubren que su decisión inicial de no invertir fue para el bienestar social.
Empresas emergentes de AI florecen a pesar de las preocupaciones
A pesar de las reservas sobre la gobernanza de la AI, Y Combinator continúa fomentando una multitud de empresas emergentes de AI. Según su directorio de empresas emergentes, la cohorte de invierno de 2024 vio un aumento a 86 empresas de AI, casi el doble que la cohorte de 2023.
Los recientes traspiés de alto perfil de líderes de AI han planteado dudas sobre la confiabilidad de los vendedores de productos de AI. La eliminación del equipo de ética de AI de OpenAI y el uso controvertido de una voz similar a la de Scarlett Johansson en una nueva presentación de GPT-4 ejemplifican la escrutinio al que se enfrentan las empresas de AI.
Mirando hacia el futuro, Tan se muestra optimista sobre la industria de AI, imaginando un ecosistema tecnológico rebosante de opciones para los consumidores y fundadores capaces de alcanzar a mil millones de personas. Su mayor temor no es una AI malévola, sino más bien la escasez de opciones en modelos de AI, lo que podría llevar a la monopolización, un mundo en el que resueltamente no desea habitar.
Preguntas y respuestas clave:
– ¿Cuál es la postura del CEO de Y Combinator sobre la regulación de AI? Garry Tan apoya regulaciones prudentes de AI que garanticen una innovación responsable, como las que está desarrollando el NIST. Enfatiza la importancia de las regulaciones para guiar el desarrollo y uso ético de la inteligencia artificial.
– ¿A qué marcos regulatorios se refiere Garry Tan? Tan hace referencia a la orden ejecutiva de la administración de Biden e iniciativas del NIST que tienen como objetivo asegurar que la AI cumpla con las leyes existentes de privacidad de datos y derechos de autor, entre otros.
– ¿Qué preocupaciones tiene Tan sobre la regulación de AI? Tan está preocupado por la legislación estatal excesivamente restrictiva, como un proyecto de ley de California que podría permitir acciones legales contra empresas de AI si sus productos se consideran perjudiciales, lo que podría sofocar la innovación.
– ¿Y Combinator tiene una postura ética respecto a las empresas emergentes de AI? Sí, Y Combinator no financia startups si su misión o impactos potenciales en la sociedad son desacertados, alineando sus inversiones con consideraciones éticas.
Desafíos y controversias clave:
– Equilibrio entre la innovación y la regulación: La dificultad radica en crear regulaciones que protejan a la sociedad sin obstaculizar los avances tecnológicos y sofocar a las empresas emergentes basadas en AI.
– Monopolización de AI: Tan teme que la falta de opciones para los consumidores en modelos de AI pueda llevar a la monopolización, reduciendo la innovación de la industria y las opciones para el consumidor.
– Confianza en AI: Incidentes de alto perfil han generado dudas sobre la confiabilidad de los productos de AI y el compromiso de las empresas de AI con consideraciones éticas, como la disolución del equipo de ética de AI de OpenAI.
Ventajas y desventajas de la regulación de AI:
Ventajas:
– Protección del consumidor: Las regulaciones pueden proteger a los consumidores de infracciones a la privacidad y decisiones de AI sesgadas o defectuosas.
– Estandarización: Proporciona un conjunto unificado de normas y directrices a las que los desarrolladores y empresas de AI pueden adherirse para la implementación responsable de AI.
– Supervisión ética: Fomenta el desarrollo de AI de manera coherente con los valores sociales y mitiga posibles daños.
Desventajas:
– Restricción a la innovación: Regulaciones excesivamente estrictas pueden inhibir la investigación y el desarrollo de AI, especialmente para startups incipientes que pueden carecer de recursos para cumplir con requisitos legales complejos.
– Competitividad global: Si las regulaciones no están armonizadas a nivel internacional, los países con regulaciones menos estrictas pueden atraer más innovación en AI, lo que potencialmente podría conducir a una división tecnológica y económica.
Enlaces relacionados sugeridos:
– Para obtener más información sobre Y Combinator y su papel en el apoyo a startups, visita Y Combinator.
– Para conocer más sobre regulaciones y estándares de AI, explora el sitio oficial del Instituto Nacional de Normas y Tecnología (NIST).
– Para obtener información sobre los esfuerzos gubernamentales en la gobernanza de la AI, generalmente se puede encontrar información sobre la orden ejecutiva en AI en el sitio web oficial de la Casa Blanca.
Estos recursos proporcionan información adicional sobre la innovación en AI, financiamiento para startups y el cambiante panorama de la regulación de AI y consideraciones éticas.
The source of the article is from the blog radardovalemg.com