Un article scientifique généré par une IA suscite des critiques
Un récent article scientifique prétendant illustrer la voie de signalisation des cellules souches de spermatozoïdes a été la cible d’une immense raillerie en raison de ses représentations extravagantes et de ses mots non-sensés. L’article comprenait une image d’un rat aux traits anatomiques exagérés et aux quatre testicules surdimensionnés, suscitant une moquerie généralisée. Les graphiques générés par l’IA ont également présenté une image en coupe de « cellules sterrn » ramassées avec une cuillère. Ces visuels absurdes ont été publiés dans le journal Frontiers in Cell and Development Biology et ont depuis été retirés avec des excuses de la part du journal.
L’incident a suscité des inquiétudes parmi les scientifiques concernant la possibilité pour les chercheurs de falsifier leur travail à l’aide d’outils d’IA. Adrian Liston, professeur à l’Université de Cambridge, a souligné le problème de l’IA générative créant du contenu qui semble humain mais manque de précision. Il l’a comparé à un acteur jouant le rôle d’un médecin dans une émission de télévision, affirmant que même s’ils semblent être un médecin, demander des conseils médicaux à cette personne serait imprudent.
Les experts du domaine ont exprimé leur inquiétude quant aux capacités en constante évolution de l’IA générative. Avec l’avancée de la technologie, repérer des articles scientifiques frauduleux est devenu de plus en plus difficile. Les graphiques en question ont été qualifiés de « honte absolue » et « dévastateurs », provoquant un débat sur l’intégrité des revues scientifiques.
Le Dr Elisabeth Bik, microbiologiste reconnue pour son travail d’identification des manipulations dans les articles scientifiques, a souligné le besoin pour les revues, les éditeurs et les évaluateurs par les pairs de faire preuve de prudence lors de l’acceptation et de la publication de contenu généré par l’IA. Elle a souligné que tandis que ces figures particulières étaient manifestement incorrectes, il pourrait déjà exister du contenu généré de manière plus sophistiquée par l’IA infiltrant la littérature scientifique.
À mesure que le développement de l’IA progresse, une reconnaissance croissante de la nécessité de logiciels capables de détecter du contenu généré par l’IA émerge. Cependant, à l’heure actuelle, de telles détections sont limitées à moins que le contenu ne présente des défauts évidents. Des efforts sont déployés par des entreprises pour développer une technologie de tatouage numérique afin de résoudre ce problème.
Alors que la communauté scientifique reconnaît les bénéfices potentiels de l’IA dans la recherche, cet incident rappelle combien il est important de faire preuve de vigilance et d’évaluation approfondie pour garantir la fiabilité et l’exactitude des publications scientifiques.
The source of the article is from the blog foodnext.nl