Videnskabelige publikationer er ikke immune over for kunstig intelligens’ (AI) påvirkning, som illustreret ved en nylig hændelse involverende falske billeder genereret af Midjourney, en af de mest populære AI billedgeneratorer.
I en artikel publiceret af det videnskabelige tidsskrift Frontiers in Cell and Developmental Biology undersøgte forskere forbindelsen mellem stamceller i mavehulen hos pattedyr og en signalvej forbundet med inflammation og kræft i celler. Mens indholdet i artiklen syntes legitimt, var det de unøjagtige og groteske skildringer af rottehule, signalveje og stamceller, der vakte opsigt.
For eksempel skildrede det AI-genererede rotte-diagram en rotte med den øverste del kaldet “senctolic stamceller” og det der syntes at være et stort rottepenis mærket som “Dissilced” – helt klart ikke en typisk videnskabelig illustration.
Overraskende fandt de defekte billeder vej til publikationen på trods af de påståede kvalitetskontroller, der blev udført af forskningsintegritetsteamet og redaktøren. Dette rejser spørgsmål om effektiviteten af fagfællebedømmelsesprocessen til at afsløre vildledende eller fejlagtigt indhold.
Selvom forskerne anerkendte i artiklen, at billederne var AI-genererede, er det bekymrende, at sådanne billeder ikke blev rettet inden publikation. Denne hændelse understreger behovet for klarere retningslinjer og protokoller til at tackle fejl i figurer og fejlmarkeret illustrationer i videnskabelige publikationer.
Det særligt alarmerende er, at teksten i illustrationerne genereret af AI ikke engang var korrekt engelsk, hvilket gjorde det tydeligt for enhver med en skarp øje, at billederne ikke var autentiske.
Konsekvenserne af AI-genereret billedmateriale i videnskabelige publikationer strækker sig ud over blot unøjagtigheder. I en separat undersøgelse udført af Northwestern University og University of Chicago blev det fundet, at menneskelige eksperter blev narret af AI-producerede videnskabelige resuméer næsten en tredjedel af tiden. Dette rejser bekymringer om den mulige indvirkning på videnskabelig integritet og behovet for strengere evaluering af AI-genereret indhold.
Mens AI fortsat vinder popularitet og tilgængelighed, er der en voksende risiko for videnskabeligt unøjagtige billeder, der infiltrerer videnskabelige publikationer og nyhedsartikler. Mens AI-genererede billeder kan være visuelt imponerende, mangler de ofte den nuancerede præcision, der kræves i videnskabelige illustrationer.
Denne hændelse skal minde os om, at vi skal være forsigtige med at acceptere AI-genereret indhold som legitimt videnskabeligt arbejde. Strengere politikker og bedste praksis er nødvendige for at forhindre vildledende eller meningsløst indhold i at underminere troværdigheden af videnskabelig forskning. Ved at fremme en bedre forståelse af AI’s begrænsninger og implementere strenge evalueringsprocesser kan vi sikre, at videnskabelige publikationer opretholder deres integritet og bidrager til videnskabens fremskridt.
Ofte stillede spørgsmål:
1. Hvad er hændelsen vedrørende AI og videnskabelige publikationer?
Hændelsen omhandlede offentliggørelsen af en artikel i det videnskabelige tidsskrift Frontiers in Cell and Developmental Biology, der inkluderede unøjagtige og groteske AI-genererede billeder af rottehule, signalveje og stamceller.
2. Hvad var bekymrende ved de AI-genererede billeder?
De AI-genererede billeder havde mærkede dele, såsom en stor rottepenis mærket som “Dissilced,” og teksten i illustrationerne var ikke på korrekt engelsk, hvilket indikerede, at billederne ikke var autentiske.
3. Hvordan kom de defekte billeder med i publikationen?
På trods af kvalitetskontroller udført af forskningsintegritetsteamet og redaktøren blev de unøjagtige billeder ikke rettet inden offentliggørelsen, hvilket rejser spørgsmål om effektiviteten af fagfællebedømmelsesprocessen til at opdage vildledende eller fejlagtigt indhold.
4. Hvad strækker konsekvenserne af AI-genereret billedmateriale i videnskabelige publikationer sig til?
Konsekvenserne strækker sig ud over blot unøjagtigheder. En separat undersøgelse viste, at menneskelige eksperter blev narret af AI-producerede videnskabelige resuméer omkring en tredjedel af tiden, hvilket understreger bekymringerne om indvirkningen på videnskabelig integritet og behovet for strengere evaluering af AI-genereret indhold.
5. Hvad er risikoen forbundet med den stigende popularitet og tilgængelighed af AI-teknologi?
Som AI-teknologi bliver mere tilgængelig, er der en voksende risiko for videnskabeligt unøjagtige billeder, der infiltrerer videnskabelige publikationer og nyhedsartikler. Mens AI-genererede billeder kan være visuelt imponerende, mangler de ofte den nuancerede præcision, der kræves i videnskabelige illustrationer.
6. Hvordan kan troværdigheden af videnskabelig forskning opretholdes?
For at opretholde integriteten af videnskabelig forskning er der behov for strengere politikker og bedste praksis for at forhindre vildledende eller meningsløst indhold i at underminere troværdigheden. En bedre forståelse af AI’s begrænsninger og implementeringen af strenge evalueringsprocesser er nødvendig.
The source of the article is from the blog combopop.com.br