COLUMN - Maar liefst twee voorbeelden kreeg ik deze week aangereikt: gevallen waarin een ‘peer reviewed’ wetenschappelijk artikel in een prestigieus tijdschrift duidelijk door kunstmatige intelligentie geschreven was.
Het eerste was dit artikel in het tijdschrift Radiology Case Reports. Op het oog is het wat het tijdschrift belooft: een beschrijving van een radiologisch kennelijk interessant geval, maar vlak boven de sectie ‘conclusion’ gaat het mis:
In summary, the management of bilateral iatrogenic I’m very sorry, but I don’t have access to real-time information or patient-specific data, as I am an AI language model. I can provide general information about managing hepatic artery, portal vein, and bile duct injuries, but for specific cases, it is essential to consult with a medical professional who has access to the patient’s medical records and can provide personalized advice. It is recommended to discuss the case with a hepatobiliary surgeon or a multidisciplinary team experienced in managing complex liver injuries.
Het tweede artikel, in Surfaces and Interfaces, ontspoort zelfs al aan het begin, als het opent met de volgende mededeling:
Certainly, here is a possible introduction for your topic:Lithium-metal batteries are promising candidates for high-energy-density rechargeable batteries due to their low electrode potentials and high theoretical capacities [1], [2].
Beide artikelen verschijnen in tijdschriften van Elsevier, die hiermee weer eens bewijst wat een roversbende het is. De artikelen zijn allebei open access verschenen (dat wil zeggen dat ze voor lezers gratis toegankelijk zijn), en de auteurs hebben daar zo te zien bijna 2500 euro voor betaald. Waarvoor dat bedrag? Volgens commerciële uitgevers omdat daarmee de kwaliteit gewaarborgd wordt.
Maar wat is dat voor kwaliteit? Je kunt er natuurlijk over discussiëren of het erg is als auteurs de inleiding van hun artikel of de slotparagrafen door een chatbot laten maken. De belangrijkste vraag is dan waarom die auteurs dat zouden doen. Als zulke tekst zo voorspelbaar is dat hij door een computer kan worden geschreven, waarom moet hij dan überhaupt worden gemaakt? Laat de lezer anders zelf lekker een inleiding laten schrijven door zijn eigen favoriete chatbot.
Het grootste probleem is echter dat het hier zo evident gebeurd is. Hier staan zinnen in de tekst die er niet in hadden moeten staan. De conclusie: voor het artikel verscheen heeft niemand het echt een keer doorgelezen. De auteurs niet, de reviewers niet, de redactie niet, de eindredactie niet. A raison van 2500 euro is hier iets op het internet gekwakt dat zelfs de meest betrokkenen niet echt interesseerde. En dat alles omdat een wetenschapper nu eenmaal artikelen moet publiceren.
Het systeem van wetenschappelijk publiceren is kapot.
Reacties (7)
Dit is wel héél bar en boos. Ik vraag me toch meer af of de universiteiten niet zelf het publiceren in handen zouden moeten nemen. Zonder de obscene winsten, en met openbare toegang voor iedereen die de kennis nodig heeft.
Er wordt al wat gedaan.
https://www.medischcontact.nl/actueel/laatste-nieuws/nieuwsartikel/wetenschappers-boos-over-publicatietarief-elsevier-starten-eigen-tijdschrift
Nice. Goed voorbeeld doet hopelijk goed volgen.
De introductie (en misschien de conclusie) moeten de lezer helpen om te beslissen of die het hele artikel lezen gaat.
Op zich is het geen probleem als de introductie door een computer geschreven is.
Maar dan moet de introductie wel kloppen. De beschreven artikelen bevatten tekst die niet aan de lezer (maar aan de auteur) gericht is.
Als een deel van het artikel duidelijk niet door een redacteur gelezen is, is de vraag of de rest van het artikel wel betrouwbaar is.
Hoe dan ook zijn er perverse prikkels om ondeugdelijke artikelen te publiceren.
Tijdsdruk? Publicatiedwang? Onzekerheid?
Niet alle wetenschappers zijn handig met taal. Ik zou met best voor kunnen stellen dat een beknopte inleiding of afsluiting van een artikel schrijven dan een worsteling is. Waarmee ik het gebruik van AI voor wetenschappelijke publicaties absoluut niet goed wil praten, overigens.
Dan huren ze maar iemand in die dat wel.
Wat is dat toch? Wel vanuit je ivoren bètatoren neerkijken op alfa’s maar zelf geen leesbare zin kunnen produceren en dan maar je toevlucht nemen tot AI? Kneus!
Acht artsen van een ziekenhuis in Jeruzalem die een medisch artikel indienen over de behandeling van een beschadiging van enkele voorname bloedvaten (door eerder medisch toedoen), en geen van hen die de fout opmerkt? Was er niemand van hen die de eindredactie voor z’n rekening nam?
Bizar.
Ik verwacht zoiets bij een clubje tweede- of derdejaars HBO-studenten die onder cijferdwang een groepsopdracht maken, maar toch niet op dit niveau? Zeker niet als je in een wetenschappelijk tijdschrift publiceert.