Wetenschappelijke publicaties ontsnappen niet aan de invloed van kunstmatige intelligentie (AI), zoals blijkt uit een recent incident waarbij valse beelden werden gegenereerd door Midjourney, een van de meest populaire AI-beeldgeneratoren.
In een paper gepubliceerd in het wetenschappelijke tijdschrift Frontiers in Cell and Developmental Biology onderzochten onderzoekers de relatie tussen stamcellen in de testikels van zoogdieren en een signaalroute die in verband wordt gebracht met ontsteking en kanker in cellen. Hoewel de tekst van het paper legitiem leek, waren het de onnauwkeurige en groteske afbeeldingen van ratten testikels, signaalroutes en stamcellen die wenkbrauwen deden fronsen.
Het AI gegenereerde diagram van de rat toonde bijvoorbeeld een rat met een bovenlichaam gelabeld als “senctolische stamcellen” en wat leek op een grote rattenpenis gelabeld als “Dissilced” – zeker geen typische wetenschappelijke illustratie.
Verrassend genoeg werden de foutieve afbeeldingen gepubliceerd, ondanks de veronderstelde kwaliteitscontroles die worden uitgevoerd door het onderzoeksteam en de eindredacteur. Dit roept vragen op over de effectiviteit van het peer-review proces bij het detecteren van misleidende of onjuiste inhoud.
Hoewel de onderzoekers in het paper erkenden dat de afbeeldingen door AI werden gegenereerd, is het verontrustend dat dergelijke afbeeldingen niet voor publicatie zijn gecorrigeerd. Dit incident benadrukt de noodzaak van duidelijkere richtlijnen en protocollen om fouten in afbeeldingen en verkeerd gelabelde illustraties in wetenschappelijke publicaties aan te pakken.
Wat met name zorgwekkend is, is dat de door AI gegenereerde tekst in de illustraties zelfs geen correct Engels was, wat duidelijk maakte voor iedereen die goed keek dat de afbeeldingen niet authentiek waren.
De gevolgen van door AI gegenereerde beelden in wetenschappelijke publicaties reiken verder dan alleen onnauwkeurigheden. In een afzonderlijke studie uitgevoerd door Northwestern University en de Universiteit van Chicago bleek dat menselijke experts bijna een derde van de tijd werden bedrogen door door AI geproduceerde wetenschappelijke abstracts. Dit roept zorgen op over de mogelijke impact op wetenschappelijke integriteit en de noodzaak van strengere beoordeling van door AI gegenereerde inhoud.
Naarmate AI populairder en toegankelijker wordt, neemt het risico toe dat wetenschappelijk onnauwkeurige beelden doordringen in wetenschappelijke publicaties en nieuwsartikelen. Hoewel AI gegenereerde beelden visueel aantrekkelijk kunnen zijn, ontbreekt het vaak aan de nauwkeurigheid die vereist is in wetenschappelijke illustraties.
Dit incident herinnert ons eraan dat we voorzichtig moeten zijn bij het accepteren van door AI gegenereerde inhoud als legitiem wetenschappelijk werk. Striktere beleidsmaatregelen en beste praktijken zijn nodig om te voorkomen dat misleidende of onzinnige inhoud afbreuk doet aan de geloofwaardigheid van wetenschappelijk onderzoek. Door een beter begrip van de beperkingen van AI te bevorderen en rigoureuze evaluatieprocessen toe te passen, kunnen we ervoor zorgen dat wetenschappelijke publicaties hun integriteit behouden en bijdragen aan de bevordering van kennis.
Veelgestelde vragen:
1. Waar ging het incident over met betrekking tot AI en wetenschappelijke publicaties?
Het incident betrof de publicatie van een paper in het wetenschappelijke tijdschrift Frontiers in Cell and Developmental Biology, waarin onnauwkeurige en groteske AI gegenereerde beelden van ratten testikels, signaalroutes en stamcellen werden opgenomen.
2. Wat was verontrustend aan de AI gegenereerde beelden?
De AI gegenereerde beelden bevatten verkeerd gelabelde onderdelen, zoals een grote rattenpenis gelabeld als “Dissilced”, en de tekst in de illustraties was niet in correct Engels, wat aangeeft dat de afbeeldingen niet authentiek waren.
3. Hoe zijn de foutieve afbeeldingen in de publicatie terecht gekomen?
Ondanks kwaliteitscontroles die worden uitgevoerd door het onderzoeksteam en de eindredacteur zijn de onnauwkeurige afbeeldingen niet voor publicatie gecorrigeerd, wat vragen oproept over de effectiviteit van het peer-review proces bij het detecteren van misleidende of onjuiste inhoud.
4. Waar strekken de gevolgen van door AI gegenereerde beelden in wetenschappelijke publicaties zich toe?
De gevolgen strekken zich verder uit dan alleen onnauwkeurigheden. Uit een afzonderlijke studie bleek dat menselijke experts bijna een derde van de tijd in de war werden gebracht door door AI geproduceerde wetenschappelijke abstracts, wat wijst op zorgen over de impact op wetenschappelijke integriteit en de noodzaak van strengere beoordeling van door AI gegenereerde inhoud.
5. Welk risico hangt er samen met de toenemende populariteit en toegankelijkheid van AI-technologie?
Naarmate AI-technologie meer toegankelijk wordt, neemt het risico toe dat wetenschappelijk onnauwkeurige beelden doordringen in wetenschappelijke publicaties en nieuwsartikelen. Hoewel visueel aantrekkelijk, ontbreekt het vaak aan de nauwkeurigheid die vereist is in wetenschappelijke illustraties bij AI gegenereerde beelden.
6. Hoe kan de geloofwaardigheid van wetenschappelijk onderzoek worden behouden?
Om de integriteit van wetenschappelijk onderzoek te waarborgen, zijn er strengere beleidsmaatregelen en beste praktijken nodig om te voorkomen dat misleidende of onzinnige inhoud afbreuk doet aan de geloofwaardigheid. Een beter begrip van de beperkingen van AI en de implementatie van rigoureuze evaluatieprocessen zijn noodzakelijk.
Definities:
– Kunstmatige Intelligentie (AI): Een tak van de informatica die zich bezighoudt met het creëren van intelligente machines die taken kunnen uitvoeren die doorgaans menselijke intelligentie vereisen.
– Peer-review proces: Het proces waarbij een wetenschappelijk werk, zoals een wetenschappelijk artikel, wordt beoordeeld door experts op hetzelfde vakgebied voordat het wordt gepubliceerd.
– Wetenschappelijke integriteit: Het naleven van ethische en professionele normen in wetenschappelijk onderzoek, inclusief eerlijkheid, nauwkeurigheid, objectiviteit en transparantie.
– STEM cellen: Stamcellen zijn ongedifferentieerde cellen die het potentieel hebben om zich te ontwikkelen tot verschillende gespecialiseerde celtypen in het lichaam.
– Signaalroute: Een reeks chemische reacties binnen een cel die, wanneer geactiveerd, leidt tot een specifieke celreactie.
– Onderzoek integriteit: Het naleven van ethische en professionele normen in alle aspecten van onderzoek, inclusief het ontwerp, de uitvoering, de analyse, de rapportage en de verspreiding van bevindingen.
Gerelateerde koppelingen:
– Frontiers in Cell and Developmental Biology
– Northwestern University
– Universiteit van Chicago
The source of the article is from the blog zaman.co.at