Garry Tan appelle à des réglementations AI prudentes
Lors d’une discussion à l’Economic Club de Washington, le PDG de Y Combinator, Garry Tan, a souligné le besoin imminent de réglementations dans l’industrie de l’intelligence artificielle. S’entretenant avec Teresa Carlson de la société de capital-risque Basic Catalyst, il a exprimé son fort soutien à des mesures réglementaires similaires à celles en cours d’élaboration par l’Institut National des Standards et Technologies (NIST).
La conversation avec Tan a abordé des sujets allant de l’adhésion à Y Combinator au paysage actuel de la technologie AI, où il a remarqué qu’il n’y a jamais eu de meilleur moment pour s’impliquer dans le travail technologique. Il a soutenu l’ordonnance exécutive de l’administration Biden, qui vise à établir une série de mandats pour les agences axées sur l’IA, de l’échange de données sur la sécurité à l’offre d’un accès équitable aux petits développeurs.
Tan a souligné que le cadre du NIST suggère plusieurs initiatives, comme s’assurer que l’IA est conforme aux réglementations existantes qui régissent la confidentialité des données et les droits d’auteur, divulguer l’utilisation de l’IA générative aux utilisateurs finaux, et mettre en œuvre des règles pour empêcher la génération de matériaux représentant l’exploitation sexuelle des enfants.
Malgré son soutien aux réglementations fédérales, Tan a exprimé des préoccupations concernant les propositions législatives en Californie et à San Francisco, les qualifiant de particulièrement préoccupantes. Cela inclut un projet de loi introduit par le sénateur de l’État Scott Wiener qui permettrait d’engager des actions en justice contre les entreprises d’IA si leurs produits sont jugés nuisibles.
La voie éthique de l’IA
Tan a souligné le besoin d’une discussion réfléchie sur « à quoi ressemble vraiment une bonne version de [la réglementation de l’IA] », en citant des personnalités comme Ian Hogarth au Royaume-Uni, qui met l’accent sur les contrepoids et encourage l’innovation tout en atténuant les dangers potentiels.
L’approche de Y Combinator en matière de responsabilité éthique est claire : ils ne financent pas les startups si elles ne sont pas d’accord avec leur mission ou les impacts potentiels sur la société, a déclaré Tan. Même en revisitant d’anciens candidats qui font la une des journaux, Tan a révélé qu’ils trouvent souvent que leur décision initiale de ne pas investir était pour le bien de la société.
Les startups AI prospèrent malgré les préoccupations
Malgré les réserves concernant la gouvernance de l’IA, Y Combinator continue de soutenir une multitude de startups AI. Selon leur répertoire de startups, la cohorte hivernale de 2024 a vu une augmentation à 86 entreprises AI, presque le double de celle de la cohorte de 2023.
Des erreurs récentes de leaders en IA ont soulevé des questions sur la fiabilité des vendeurs de produits d’IA. L’élimination de l’équipe d’éthique de l’IA d’OpenAI et l’utilisation controversée d’une voix ressemblant à Scarlett Johansson dans une nouvelle présentation de GPT-4 illustrent les examens minutieux auxquels sont confrontées les entreprises d’IA.
Pour l’avenir, Tan est optimiste quant à l’industrie de l’IA, imaginant un écosystème technologique foisonnant de choix pour les consommateurs et de fondateurs capables d’atteindre un milliard de personnes. Sa plus grande crainte n’est pas une IA malveillante, mais plutôt une pénurie de choix en modèles d’IA, ce qui pourrait mener à une monopolisation – un monde dans lequel il ne souhaite résolument pas vivre.
Questions et Réponses clés :
– Quel est l’avis du PDG de Y Combinator sur la réglementation de l’IA ? Garry Tan soutient des réglementations AI prudentes garantissant une innovation responsable, telles que celles en cours de développement par le NIST. Il souligne l’importance des réglementations pour orienter le développement et l’utilisation éthiques de l’IA.
– À quels cadres réglementaires Garry Tan fait-il référence ? Tan fait référence à l’ordonnance exécutive de l’administration Biden et aux initiatives du NIST visant à garantir que l’IA est conforme aux lois existantes sur la confidentialité des données et le droit d’auteur, entre autres.
– Quelles préoccupations Garry Tan a-t-il concernant les réglementations en matière d’IA ? Tan s’inquiète de la législation au niveau de l’État qui pourrait être trop restrictive, comme un projet de loi californien permettant des actions en justice contre les entreprises d’IA si leurs produits sont jugés nuisibles, ce qui pourrait étouffer l’innovation.
– Y Combinator adopte-t-il une position éthique à l’égard des startups AI ? Oui, Y Combinator ne finance pas les startups si leur mission ou leurs impacts potentiels sur la société ne sont pas acceptables, alignant leurs investissements sur des considérations éthiques.
Défis et Controverses clés:
– Équilibre entre l’innovation et la réglementation : La difficulté réside dans la création de réglementations qui protègent la société sans entraver les avancées technologiques et étouffer les startups basées sur l’IA.
– Monopolisation de l’IA : Tan craint qu’un manque de choix pour les consommateurs en matière de modèles d’IA ne conduise à une monopolisation, réduisant l’innovation industrielle et les options pour les consommateurs.
– Confiance en l’IA : Des incidents de haut niveau ont soulevé des doutes sur la fiabilité des produits d’IA et l’engagement des entreprises d’IA envers des considérations éthiques, comme la dissolution par OpenAI de son équipe d’éthique.
Avantages et Inconvénients de la Réglementation de l’IA:
Avantages :
– Protection des consommateurs : Les réglementations peuvent protéger les consommateurs contre les infractions à la vie privée et les décisions biaisées ou défectueuses de l’IA.
– Standardisation : Fournit un ensemble unifié de normes et de lignes directrices aux développeurs et aux entreprises d’IA pour un déploiement responsable de l’IA.
– Surveillance éthique : Encourage le développement de l’IA de manière cohérente avec les valeurs sociétales et atténue les dangers potentiels.
Inconvénients :
– Restriction de l’innovation : Des réglementations trop contraignantes peuvent entraver la recherche et le développement en IA, en particulier pour les startups novatrices qui pourraient ne pas avoir les ressources nécessaires pour se conformer à des exigences légales complexes.
– Compétitivité mondiale : Si les réglementations ne sont pas harmonisées au niveau international, les pays avec des réglementations moins strictes pourraient attirer plus d’innovations en IA, conduisant potentiellement à une division technologique et économique.
Liens connexes suggérés :
– Pour en savoir plus sur Y Combinator et leur rôle dans le soutien des startups, visitez Y Combinator.
– Pour des informations sur les réglementations et normes en matière d’IA, explorez le site officiel de l’Institut National des Standards et Technologies (NIST).
– Pour des informations sur les efforts gouvernementaux en matière de gouvernance pour l’IA, les détails sur l’ordonnance exécutive sur l’IA sont généralement disponibles sur le site officiel de la Maison Blanche.
Ces ressources fournissent des informations complémentaires sur l’innovation en matière d’IA, le financement des startups et l’évolution du paysage de la réglementation et des considérations éthiques en matière d’IA.
The source of the article is from the blog procarsrl.com.ar