Köln: ZB MED sagt Falschinformationen den Kampf an – KI-Anwendung soll helfen, eine qualifizierte Einschätzung zu treffen

29.11.2022

Die Deutsche Forschungsgemeinschaft (DFG) finanziert ab dem 1. Dezember 2022 über die nächsten drei Jahre ein Projekt von ZB MED – Informationszentrum Lebenswissenschaften, das der Bekämpfung von Desinformation in den Lebenswissenschaften dient. Im Projekt „AQUAS – Automatic Quality Assessment: NLP-Verfahren zur semantischen Kartierung von lebenswissenschaftlichen Texten“ wird unter anderem eine Anwendung erstellt, die auf Künstlicher Intelligenz basiert. Ziel ist es, unbekannte Texte aufgrund semantischer Kriterien in drei Klassen graduell einzuordnen: wissenschaftlich, populärwissenschaftlich oder desinformierend. Die Anwendung wird in das ZB MED-Suchportal LIVIVO integriert, um sie der Allgemeinheit kostenfrei zur Verfügung zu stellen. Ebenfalls werden ergänzende Informationen zur guten wissenschaftlichen Praxis der Publikationen bereitgestellt, die Hinweise über Falschinformationen enthalten können.

Auswirkungen in der Medizin

Das wachsende Aufkommen von bewusst oder unbewusst verbreiteten Falschinformationen stellt unsere demokratische Gesellschaft vor eine große Herausforderung. Politische Interessengruppen streuen sogenannte Desinformationen, um den öffentlichen Diskurs zu bestimmen. Von den Rezipienten können diese Falschinformationen teils nur schwer entlarvt werden. Da sich Desinformationen auch in wissenschaftlichen Informationsangeboten finden, betrifft diese Entwicklung auch Wissenschaftler:innen. Insbesondere in der Medizin kann dies gesundheitsgefährdende Auswirkungen haben.

Machine-Learning-Anwendung klassifiziert unbekannte Literatur

Hier setzt das Projekt AQUAS an. Das ZB MED-Team wird den ersten deutschsprachigen Datensatz zur Desinformation in den Lebenswissenschaften erstellen. Für die Identifizierung folgt AQUAS den Einschätzungen unter anderem der Bundeszentrale für politische Bildung, des ARD-Faktenfinders sowie der NGO MedWatch. Auf Basis des Datensatzes wird dann eine Machine-Learning-Anwendung entwickelt, die es ermöglicht, unbekannte Literatur vollautomatisiert in ihrer graduellen Ähnlichkeit als wissenschaftlich, populärwissenschaftlich und desinformierend zu klassifizieren.

Gute wissenschaftliche Praxis als Kriterium

Ebenso erhalten die Nutzer:innen bei einzelnen Titeln ergänzende Informationen zu deren Compliance mit einer guten wissenschaftlichen Praxis, wie sie die DFG vorschreibt. Dies betrifft die Zitierungen, das Peer Review oder auch den Retraction-Status, also den nachträglichen Rückzug eines Artikels durch eine Zeitschrift nach Bekanntwerden von Fehlern. Auch das dient der Identifikation von Fehl- und Desinformationen.

Informierte Einschätzung treffen

AQUAS geht es nicht darum, eine abschließende Leseempfehlung zu geben oder gar Inhalte zu zensieren. Mit der Veröffentlichung der Informationen über das ZB MED-Suchportal LIVIVO unterstützt AQUAS die Leser:innen darin, eine informierte Einschätzung über die (pseudo-)wissenschaftliche Literatur zu treffen.

Open-Science-Ansatz

Im Sinne von Open Science stellt ZB MED sowohl den Datensatz und das Modell als auch den Workflow zum Training sowie die Software zum Betrieb des Dienstes nach Möglichkeit offen bereit. So kann die Anwendung nachgenutzt und auch für andere Themenfelder adaptiert werden. Auch wird das KI-Verfahren den Nutzer:innen transparent kommuniziert.