Halluzinationen haben die Wissenschaft verseucht. Jetzt kommt eine neue Welle, nur diesmal von der anderen Seite.
Ich habe in den letzten Monaten hier oft über halluzinierte Quellen geschrieben und Tools vorgestellt, mit denen man solche KI-Halluzinationen automatisch erkennt.
So weit, so gut, so ungenügend.
Denn quasi von der anderen Seite baut sich - gleich einer zerstörerischen Riesenwelle - ein neues Problem auf. Ich will es kurz skizzieren.
Nature hat gerade über den Verband IEEE berichtet. Der hat 1.417 Konferenzbeiträge auf einmal zurückgezogen. Das dürfte die größte Kollektiv-Retraktion eines Verlages in der Wissenschaftsgeschichte sein.
Auslöser war eine Studie von Anna Abalkina, die mit ihren Kollegen tausende Anzeigen auf Social-Media-Kanälen ausgewertet hatte. Dort wurden Autorschaften für IEEE-Konferenz-Papers verkauft. (Links unten)
Die Preise: 43 bis 400 US-Dollar für eine Erstautorenschaft. Das ist verdammt billig für ein Label wie IEEE.
Beim Abgleich der angebotenen Titel mit den veröffentlichten Studien fanden sich über 2.000 in den IEEE-Proceedings wieder. Mittlerweile sind 1.622 davon zurückgezogen.
Auffällig auch: Von 109 IEEE-Konferenzen mit mindestens fünf Treffern fanden 95 in Indien statt. Das könnte m.E. damit zu tun haben, dass immer mehr indische Privatunis für jede Veröffentlichung Geld zahlen. 60 % der untersuchten Fälle kamen aus solchen privaten Hochschulen.
Die günstigsten Papermills sitzen auch in Indien. Bei den IEEE-Papieren kamen die Käufer aber nicht nur aus Asien, auch wenn da ein besonders großer Markt bzw. besonders geringe Kontrollen zu sein scheinen.
Aber mir ist noch was aufgefallen: Halluzinationen und Paper Mills sind quasi spiegelverkehrt. Die Halluzination sieht aus wie eine Quelle, ist aber keine. Das gekaufte Paper ist eine Quelle, allerdings eine ziemlich zweifelhafte, auch wenn sie eine DOI hat, in einer großen Datenbank steht und das Layout eines großen Verlags trägt.
Viele Halluzinations-Checks winken so ein Paper durch. Erstmal zu Recht, denn es existiert ja.
Deshalb braucht die Frage “Gibt es diese Quelle?” eine Ergänzung: “Gilt diese Quelle (noch)?”
Anlaufstellen, das zu checken, gibt es genug:
Die Retraction Watch Database ist vielen bekannt. Dort steht, was schon zurückgezogen wurde. Weniger bekannt ist der Problematic Paper Screener von Guillaume Cabanac (Université de Toulouse): Er markiert verdächtige Papiere oft noch bevor ein Verlag reagiert.
Was heißt das nun ganz praktisch für die KI-Bildung, besonders an Hochschulen?
Ganz einfach: Retraction-Checks gehören mit in die Recherche-Workflows. Nur nach Halluzinationen zu suchen reicht nicht mehr.
Die Recherche-Skills, die ich in meinen Workshops zeige und den Teilnehmern zur Verfügung stelle, haben solche Checks schon länger mit drin. Aber in Zukunft werde ich noch stärker für das Thema sensibilisieren, da auch eine reale Quelle aus einer seriösen Datenbank eine wissenschaftliche Arbeit verseuchen kann.
Quellen
- Nature (30. Oktober 2026): Record-breaking retraction: scholarly publisher pulls 1,400 conference papers on one day
- Abalkina, Kunešová, Ozturk, Pirelli: Opening Pandora's box: Paper mills in conference proceedings (arXiv, 2026)
- Retraction Watch
- Problematic Paper Screener (Guillaume Cabanac, Université de Toulouse)
