NEWS

Springer Nature übergibt sein einzigartiges KI-Tool
zur Erkennung problematischer Texte an die Verlagsbranche

Das zuvor als „Geppetto“ bekannte Tool wird über den STM Integrity Hub verfügbar sein

Nach der erfolgreichen Einführung des KI-Tools zur Erkennung von KI-generiertem Nonsense-Text in Forschungsmanuskripten in seinen Zeitschriften und Büchern spendet Springer Nature das Tool nun an STM. Es wird in den STM Integrity Hub integriert, eine branchenweite Initiative, die Verlage bei der Sicherstellung der Integrität ihrer veröffentlichten Inhalte unterstützt. Ziel ist die Entwicklung und Erprobung von Werkzeugen, die große und kleine Verlage nutzen können, um Einreichungen auf Anzeichen für kompromittierte Inhalte zu überprüfen.

Chris Graf, Director of Research Integrity bei Springer Nature und Vorsitzender des STM Integrity Hub Governance Committee, sagte dazu:

„Die Entwicklung dieses Tools war eine große Investition und ein langwieriges Projekt, das eine enge Zusammenarbeit zwischen führenden Teams für Forschungsintegrität und KI erforderte. Wir freuen uns, dass wir diese Technologie nun mit einer breiteren Verlagsgemeinschaft teilen können, damit sie eine noch größere Wirkung entfalten kann. Der Aufstieg der KI hat es unethischen Akteuren erleichtert, gefälschte Inhalte zu generieren. Tools wie dieses, die die Macht der KI und der Mustererkennung nutzen, werden von entscheidender Bedeutung sein, vor allem, wenn sie durch die umfangreichen Daten unterstützt werden, die die Nutzung in der gesamten Branche liefern wird.“

Dr. Joris van Rossum, Program Director von STM Solutions, sagte:

„Die wachsende Zahl betrügerischer Einreichungen von Paper Mills, die durch den Anstieg der generativen KI begünstigt wird, stellt eine zunehmende Herausforderung für die Verlagswelt dar. Der STM Integrity Hub ist eine wichtige Initiative, die Verlagen helfen soll, dieses Problem und anderes unethisches Verhalten zu bekämpfen. Wir freuen uns, dass wir dieses einzigartige Tool, das Indikatoren für KI-generierte Manuskripte identifiziert, zur Unterstützung von Verlegern in der gesamten Branche einsetzen können. Diese breitere Nutzung wird dazu beitragen, das Tool weiter zu trainieren und seine Genauigkeit zu verbessern.“

Das Tool hat bereits Hunderte von gefälschten Manuskripten kurz nach ihrer Einreichung identifiziert, wodurch verhindert wurde, dass sie veröffentlicht werden und die wertvolle Zeit von Redakteur*innen und Gutachter*innen in Anspruch nehmen. Darüber hinaus bietet die Software eine Möglichkeit, eine größere Gruppe problematischer Beiträge zu identifizieren. Es können Verbindungen zwischen den Originalbeiträgen und anderen Inhalten, zum Beispiel im Rahmen derselben Sonderausgabe, gefunden werden, was zur Identifizierung von Beiträgen führt, die auf den ersten Blick solide erscheinen, sich aber bei genauerer Analyse als problematisch erweisen. Die Daten all dieser Beiträge fließen in die umfassenderen Untersuchungen von Springer Nature ein und helfen dabei, kompromittierte Inhalte auszusondern.

Der Nonsense-Text-Detektor ist eines von mehreren KI-Tools, die Springer Nature einsetzt. Dazu gehören Snappshot, das problematische Bilder identifiziert, und ein Tool zur Überprüfung irrelevanter Referenzen, das im letzten Monat eingeführt wurde und im Rahmen des kontinuierlichen Engagements von Springer Nature zur Gewährleistung der Integrität der veröffentlichten Inhalte intern entwickelt wurde oder wird. Zu diesem Engagement gehören auch Investitionen in ein schnell wachsendes Expert*innenteam und eine umfassende Technologieentwicklung und -nutzung.

Darüber hinaus beteiligt sich Springer Nature an der fortlaufenden Zusammenarbeit mit der breiteren Verlagsgemeinschaft. Dies geschieht sowohl als beitragende Organisation im STM Integrity Hub, wo das Unternehmen zusätzlich zu dieser Software-Spende auch an mehreren Arbeitsgruppen und Pilotversuchen beteiligt ist, als auch durch die Zusammenarbeit mit anderen Branchengremien und Organisationen.

https://group.springernature.com/de/group