Neue technische Entwicklungen – neue Betrugsmethoden

Betrügerische Aktivitäten im wissenschaftlichen Publikationswesen sind kein neues Phänomen, wir haben bereits hier im Blog darüber berichtet. Oftmals in einschlägigen Publikationen und in der wissenschaftlichen Community mit dem Attribut „predatory“ gelabelt, verführen solche Pseudo-Zeitschriften mit wissenschaftlichem Anstrich ohne Qualitätssicherung Wissenschaftler*innen zur schnellen Publikation. Die entsprechenden Publikationen verlängern die persönliche Publikationsliste, können jedoch auch erheblichen Schaden bezüglich der eigenen Reputation erzeugen.

Seit 2021 werden vermehrt Skandale aufgedeckt, bei denen massenhaft fabrizierte Artikel in wissenschaftlichen Zeitschriften ermittelt und zurückgezogen wurden – nachzulesen beispielsweise hier, hier, hier und hier. Davon betroffen sind auch viele renommierte Verlage, unter anderem die Royal Society of Chemistry, Elsevier, Wiley mit seinem Imprint Hindawi, und der Open-Access(OA)-Verlag MDPI. Dieses Phänomen der sogenannten „Paper Mills“ steht unter dem Verdacht, mehrere Millionen Euro Jahresumsatz zu erwirtschaften. Dabei wird entweder plagiiert was das Zeug hält oder es werden gleich vollständig fingierte wissenschaftliche Artikel durch den Begutachtungsprozess, das Peer Review, gebracht und die vermeintliche Autor*innenschaft für stattliche Summen an Wissenschaftler*innen verkauft.

LLM trifft Paper Mill

In den vergangenen Monaten mehren sich zudem Berichte über neue Methoden, die besorgniserregend sind. Es paaren sich scheinbar Paper Mills mit Large Language Models wie zum Beispiel dem bekannten GPT von OpenAI und ähnlichen Programmen. Das Resultat sind vollständig unsinnige pseudowissenschaftliche Artikel, durch LLMs in Sekundenschnelle produziert. Diese sind glücklicherweise so sinnfrei, dass sie oftmals schnell als solche zu erkennen ist – noch?

Solche irrwitzigen Publikationen lassen sich zum Beispiel auf Prime Scholars bestaunen. Auch die Tatsache, dass unter Namen längst verstorbener Schriftsteller*innen wie Rainer Maria Rilke, Hermann Hesse und William Faulkner aktuelle Artikel erscheinen, legt die Vermutung nahe, dass hier LLM am Werk ist und falls überhaupt echte Menschen aus Fleisch und Blut diese Artikel vor der Veröffentlichung kontrollieren, diese entweder über eine gute Portion Humor oder aber mangelhafte Allgemeinbildung verfügen. Problematisch und für die Betroffenen dramatisch ist allerdings bereits jetzt, wenn so produzierte, am Ende unwissenschaftliche Texte unter dem Namen echter Wissenschaftler*innen erscheinen; sei es gezielt oder zufällig. Entsprechende Fälle sind hier und hier nachzulesen.

Die Betrugsmaschen sind ethisch fragwürdig, schaden der wissenschaftlichen Gemeinschaft und der Glaubwürdigkeit von Forschung

Diese Masche schadet den betroffenen Wissenschaftler*innen, die Gefahr laufen, dass sich diese Publikationen reputationsschädigend auswirken. Und diese Masche schadet der Wissenschaft, da sie dazu beitragen kann, das Vertrauen in die wissenschaftlichen Kontrollmechanismen zu untergraben.

Doch wem nützt das und wie? Antworten auf die Frage nach dem Warum bleiben derzeit spekulativ. Eine Verdienstmöglichkeit jedenfalls konnte aktuell noch nicht ausgemacht werden – doch wer weiß, wie sich die Technik und die Algorithmen weiterentwickeln und sich daraus zukünftig Profite abschöpfen lassen? Wie schwierig wird es in Zukunft sein, echte Wissenschaft von gefälschten, fabrizierten Publikationen zu unterscheiden? Werden hier LLMs trainiert, um in Zukunft für Paper Mills zu produzieren und verkaufbare Produkte zu generieren? Bereits in der Vergangenheit wurden Ko-Autor*innenschaften gefälscht, um durch den Glanz renommierter Wissenschafter*innen entweder die Chancen auf eine wohlwollende Begutachtung zu erhöhen oder um dadurch hochkarätige internationale Kooperationen vorzutäuschen und davon in etwaigen Rankings zu profitieren (siehe hier oder hier).

Ein LLM meines Vertrauens gibt dazu die folgende Antwort:

„… möchte ich deutlich darauf hinweisen, dass ich keinerlei Unterstützung oder Anleitung für illegale Aktivitäten oder unethische Geschäftspraktiken bieten kann oder werde. Paper Mills, die minderwertige oder gefälschte wissenschaftliche Artikel erstellen oder vertreiben, sind ethisch fragwürdig und schaden der wissenschaftlichen Gemeinschaft und der Glaubwürdigkeit von Forschung.“

Belassen wir es dabei und bleiben wachsam.

Vorsicht vor Rechnungsbetrug bei APC-Rechnungen

Eine ganz andere Masche, vor der wir an dieser Stelle ausdrücklich warnen möchten, ist der aktuell vermehrt zu beobachtende Rechnungsbetrug bei Open-Access-Artikeln. Die Methode ist ebenso raffiniert wie hinterhältig. Kriminelle nutzen angekündigte oder jüngste Veröffentlichung von Open-Access-Artikeln und schicken dann professionell gefälschte Rechnungen an die Autor*innen. Die dazu benötigten Informationen sind öffentlich zugänglich, was bei OA-Artikeln in der Natur der Sache liegt. Die Betrüger*innen nutzen das Vertrauen der Forschungsgemeinschaft in die Verlage aus, um ihre Opfer zu hintergehen, die schließlich die Publikationsgebühren an die angegebenen Bankdaten überweisen. Daher sind Vorsicht und gute Skepsis geboten. 

Die wenigsten Rechnungen erreichen Sie als Autor*in direkt – beachten Sie die Rahmenverträge der UB Leipzig!

Elsevier und Springer Nature haben bereits auf diese Bedrohung hingewiesen und Warnungen sowie Ratschläge zum Umgang mit gefälschten Rechnungen publiziert. Aktuell hören wir aus anderen Einrichtungen deutschlandweit vermehrt von Fällen, die den OA-Verlag Frontiers betreffen – seien Sie also immer wachsam, wenn Sie selbst eine persönlich adressierte Rechnung vom Verlag erhalten.

Worauf sollten Sie achten?

1. Kontaktdaten der Absender: Prüfen Sie immer die Absenderdetails. Echte Verlage verwenden offizielle E-Mail-Adressen und haben klare Kontaktinformationen.
2. Zahlungsfristen: Seien Sie skeptisch bei kurzen Zahlungsfristen. Betrüger*innen setzen oft auf Druck und Hektik, um Zahlungen zu erzwingen.
3. Timing: Beachten Sie das Timing. Gefälschte Rechnungen werden oft zwischen der Akzeptanz Ihres Artikels und dem Proofreading bzw. der Veröffentlichung verschickt.
4. Öffnen Sie keine verdächtigen Anhänge oder Links: Phishing-E-Mails sind eine gängige Methode, um gefälschte Rechnungen zu verbreiten. Klicken Sie nicht auf verdächtige Links oder öffnen Sie keine unbekannten Anhänge.

Gefälschte Rechnungen sind generell ein weit verbreitetes Problem und stellten laut Microsoft Digital Defense Report im ersten Halbjahr 2022 die zweithäufigste Betrugsmasche im Internet dar. Auch die Industrie- und Handelskammer Potsdam warnt vor der Masche und bietet Informationen zur Erkennung von falschen Rechnungen. In Zweifelsfällen, wenden Sie sich bei Publikationsrechnungen immer gern an openscience@ub.uni-leipzig.de. Wir wissen, wie die Rechnungen original aussehen, und wir haben mit den meisten Verlagen Kontakt oder sogar Rahmenverträge, über die wir die Publikationen von Forschenden der Universität Leipzig bezahlen.