Le développement rapide et la sortie de nouveaux modèles d’IA par les studios d’IA repoussent les limites des outils de référencement et d’évaluation. En conséquence, ces outils génèrent des résultats problématiques et approuvent des modèles qui ne peuvent pas être fiables. Cela représente un défi important pour les entreprises et les organismes publics qui tentent de réglementer efficacement l’IA dans un paysage en constante évolution.
Les critères d’évaluation traditionnels pour évaluer les performances de l’IA, tels que la précision et la sécurité, ne parviennent plus à suivre la complexité des derniers systèmes d’IA. Les experts en développement, en test et en investissement en IA soutiennent que ces outils sont facilement manipulables et trop étroits dans leur champ d’application. La compétition intense dans le domaine de l’IA, stimulée par les investissements de capital-risqueurs et de géants de la tech comme Microsoft, Google et Amazon, rend obsolètes de nombreux anciens points de référence.
Avec les nouveaux modèles d’IA et les mises à jour lancées chaque mois, les normes d’évaluation existantes deviennent rapidement obsolètes. Il est de plus en plus crucial de s’assurer que les produits d’IA que nous avons peuvent être fiables, surtout avec l’IA générative devenant une priorité d’investissement majeure pour de nombreuses entreprises technologiques.
Les gouvernements luttent également pour déployer et gérer les risques associés aux derniers modèles d’IA. Des initiatives, telles que des accords bilatéraux sur la sécurité de l’IA entre pays, sont explorées. Des préoccupations ont également été soulevées concernant l’intégrité des tests publics, car les données d’entraînement des modèles d’IA pourraient involontairement inclure les questions exactes utilisées lors des évaluations. Cela pose un défi à la fiabilité des références.
Pour résoudre ce problème pressant, des startups émergent avec des approches novatrices pour évaluer les nouveaux modèles d’IA. Certaines plateformes offrent des tests personnalisés définis par les utilisateurs individuels, offrant ainsi un reflet direct des préférences des utilisateurs. Cependant, bien que ces approches puissent bénéficier aux utilisateurs individuels, elles peuvent ne pas convenir aux entreprises ayant des exigences spécifiques en matière de modèles d’IA.
En fin de compte, il est recommandé aux entreprises de mener des tests internes et des évaluations humaines en parallèle aux références traditionnelles. La sélection des modèles d’IA relève autant de l’art que de la science. Alors que l’IA continue d’évoluer, adapter les méthodes d’évaluation pour garantir l’exactitude et la fiabilité demeure primordial pour exploiter tout le potentiel de cette technologie transformative.
The source of the article is from the blog mgz.com.tw