Eine von der KI erzeugte Ratte mit einem riesigen Penis verdeutlicht die wachsende Krise gefälschter Wissenschaft, die das Verlagswesen plagt

• Ein von der KI erzeugtes Bild einer Ratte mit einem hoch aufragenden phallischen Anhängsel verbreitete sich letzten Monat halbviral.
• Das unsinnige Diagramm erschien in einer inzwischen zurückgezogenen wissenschaftlichen Arbeit, die in einer Zeitschrift von Frontiers veröffentlicht wurde.
• Diese Ratte ist ein Symptom einer Fälschungskrise im karriereorientierten Geschäft des Forschungspublikums.

Diese Ratte hat einen enormen „Dck“ und ist ein Symptom für ein größeres Problem.

Man muss kein Wissenschaftler sein, um zu wissen, dass Ratten keine knolligen, himmelhohen Penisse haben oder dass Wörter wie „testtomcels“, „retat“ und „dissilced“ völliger Unsinn sind.

Und doch erschien das falsche Diagramm unten in einem Artikel, der letzten Monat in der Fachzeitschrift Frontiers in Cell Development and Biology veröffentlicht wurde.

Man muss der Zeitschrift zugute halten, dass sie den Artikel schnell zurückzog. Aber seine KI-generierten Bilder waren in Online-Wissenschaftsgemeinschaften bereits viral geworden. Sie haben sogar ihre eigenen bekommen Seite auf Know Your Meme.

Aber der gewaltige Phallus dieser Ratte ist nur ein Symptom einer Krise der Fake-Wissenschaft.

„Wenn es das erste Mal ist, dass ein wirklich seltsamer Artikel veröffentlicht wird, kann ich verstehen, warum er Ihre Aufmerksamkeit erregt“, sagte Ivan Oransky, Mitbegründer der Watchdog-Journalismus-Website Retraction Watch, gegenüber Business Insider. Aber für ihn, sagte er, „ist zu diesem Zeitpunkt alles eine Art nervenaufreibende Routine.“

Wie schlechte Wissenschaft und seltsame KI den „Schweizer Käse“ der Peer-Reviews überstehen

Frontiers ist ein einflussreicher Open-Access-Verlag mit einem Peer-Review-Verfahren. Wie kam es also zur Veröffentlichung dieses Artikels?

Wenn ein Verlag wie Frontiers das Manuskript eines Wissenschaftlers annimmt, durchläuft das Papier die kritischen Augen einer Reihe von Peer-Reviewern, die Experten auf dem Gebiet sind, sowie von Redakteuren, die das Peer-Review bewerten. Normalerweise müssen Studienautoren vor der Veröffentlichung Änderungen auf der Grundlage des Feedbacks der Gutachter vornehmen.

Stellen Sie sich den Peer-Review-Prozess wie einen Stapel Schweizer Käse vor. Jeder Schritt weist Lücken auf, durch die sich schlechte Wissenschaft durchzwingen könnte, aber die überlappenden Schritte neigen dazu, die Löcher der anderen zu verdecken, was es schwierig macht, den gesamten Prozess durchzuquetschen.

Dennoch kommt es manchmal vor, dass schlechte Wissenschaft durchkommt, und im Laufe der Jahre haben sich immer mehr Lücken aufgetan. Wissenschaftler können jetzt konfektioniertes Papier in Papierfabriken kaufen.

Es gibt sogar einen Präzedenzfall für KI-Schwäche im wissenschaftlichen Verlagswesen. Im Jahr 2014 erschienen die Verlage Springer und IEEE zurückgezogen mehr als 120 Artikel, die von Computern generierter Kauderwelsch waren. Der Verlagsriese Springer Nature zurückgezogen 44 Kauderwelschpapiere im Jahr 2021.

Dann gibt es noch traditionellere Formen des wissenschaftlichen Betrugs – Bestechung von Zeitschriftenredakteuren, Fälschung von Daten oder Manipulation realer Bilder oder Daten.

Diese schlechten Praktiken können echte Konsequenzen haben. Frühe Studien, in denen festgestellt wurde, dass Ivermectin oder Hydroxychloroquin vielversprechende Behandlungen gegen COVID-19 sind, wurden später wegen Anzeichen von Betrug zurückgezogen, aber die Nachricht war bereits bekannt und es kam zu einer Welle schlecht informierter Selbstbehandlung. Vox berichtete. Auch über COVID hinaus können gefälschte Studien in Datenbanken landen, die für die Arzneimittelforschung verwendet werden. Der Guardian berichtete.

Der mysteriöse Fall des „Retat“ „Dck“

Im Fall der Ratte mit „Testtomcels“ sagte Frontiers, dass einer der Peer-Reviewer Bedenken hinsichtlich der Bilder geäußert und die Autoren des Papiers aufgefordert habe, sie zu überarbeiten.

„Der Artikel ist durch die Compliance-Prüfungen des Autors gerutscht, die normalerweise sicherstellen, dass jeder Kommentar eines Rezensenten berücksichtigt wird“, sagte Fred Fenter, Chefredakteur von Frontiers, in einer zusätzlichen Erklärung per E-Mail an Business Insider und nannte es einen „menschlichen Fehler“.

Er sagte, Frontiers habe „neue Kontrollen hinzugefügt, um diese Form von Fehlverhalten aufzudecken“, seine KI-Richtlinie überarbeitet, um klarzustellen, was nicht erlaubt sei, und „KI zur Erkennung von KI-generierten Inhalten und Bildern“ entwickelt.

„Die böswilligen Akteure, die KI in der Wissenschaft unrechtmäßig einsetzen, werden immer besser werden, und deshalb müssen wir auch immer besser werden. Dies ist vergleichbar mit einer ständig verbesserten Cybersicherheit, um neue Tricks von Hackern zu blockieren“, sagte Fenter.

Im Januar: Frontiers angekündigt plant, 30 % seines Personals zu entlassen und damit 600 Stellen abzubauen.

„Qualität hat für uns höchste Priorität, und die jüngste Umstrukturierung hat keinen Einfluss auf den Peer-Review-Prozess und/oder die Compliance-Prüfungen der Autoren“, sagte Fenter.

Der korrespondierende Autor des zurückgezogenen Artikels, Dingjun Hao, reagierte nicht auf die Bitte von Business Insider um einen Kommentar.

Warum manche Wissenschaftler schlechte Arbeiten veröffentlichen

Zeitschriften sind Unternehmen und Wissenschaftler haben Karrieren. Beide stehen unter starkem Druck, häufig zu veröffentlichen.

Laut Oransky bewerten die meisten Einstellungs- und Tenure-Ausschüsse Forscher danach, wie viele Arbeiten sie veröffentlicht haben, ob sie in angesehenen Fachzeitschriften veröffentlicht wurden und wie oft andere Wissenschaftler ihre Arbeit zitieren.

„Die Leute wollen unbedingt veröffentlichen und werden alles tun, um zu veröffentlichen und ihren Job zu behalten oder befördert zu werden“, sagte Oransky. „Das ist hier das eigentliche Problem.“

Laut einer Studie haben Forschungszeitschriften im vergangenen Jahr über 10.000 wissenschaftliche Arbeiten zurückgezogen, mehr als je zuvor Bericht in der Zeitschrift Nature.

Rückzüge sind nicht alle schlecht. Tatsächlich sind sie für den Fall notwendig, dass Peer-Reviews Datenfehler oder unverantwortliche Praktiken nicht aufdecken.

Doch mit der Rekordrückzugsrate geht ein Anstieg von Scheinpapieren einher, die einige Wissenschaftler hastig fabrizieren oder mit Hilfe von KI erstellen.

„Es ist anzüglich“, sagte Oransky über die Ratte und ihren „Deck“. Aber er fuhr fort: „Es gibt so gut wie nichts Neues unter der Sonne.“

Für Oransky liegt die Lösung auf der Hand. Wissenschaftseinrichtungen auf der ganzen Welt sollten Wissenschaftler auf der Grundlage der Qualität und nicht der Breite ihrer Arbeit bewerten. Seine vorgeschlagene Bewertungsmetrik? Zeigen Sie drei gute Arbeiten.

„Wir müssen aufhören, Veröffentlichungen und Zitate als Maßstab für alles zu verwenden“, sagte er. „Das alles ist spielbar. Drei gute Papiere sind nicht spielbar.“

source site-19