Autoren:
Barend Mons, Professor Emeritus der Universität Leiden, Vorstandsmitglied der GO FAIR Stiftung und Direktor von LIFES, der Leidener Initiative für faire und gerechte Wissenschaft
Arie BaakVorstandsmitglied der LIFES Association for FAIR and Equitable science
Koen JonkersEuropäische Kommission, Gemeinsame Forschungsstelle (JRC), Brüssel, Belgien
Künstliche Intelligenz (KI) revolutioniert die Art und Weise, wie Wissenschaft betrieben, kommuniziert und validiert wird. Sie birgt großes Potenzial, indem sie Mustererkennung in einem Umfang ermöglicht, den kein menschlicher Forscher erreichen kann, Arbeitsabläufe beschleunigt und neue Wege für Entdeckungen eröffnet. Doch KI ist auch schnell, nicht fehlerfrei und undifferenziert, während Wissenschaft naturgemäß zeitaufwändig und akribisch ist. Die Spannung zwischen diesen beiden Realitäten führt bereits zu gravierenden Problemen: einer Flut von KI-generierten Publikationen und Daten, einer Verschlechterung des Peer-Review-Verfahrens, realitätsfernen Ergebnissen und einem schwindenden Vertrauen in wissenschaftliche Publikationen. Die Kompetenzen, die von zukünftigen Wissenschaftlern benötigt werden, verändern sich grundlegend, und die Wissenschaftspolitik hat mit dieser Entwicklung nicht Schritt gehalten. Es ist dringend geboten, diese Lücke zu schließen.
Die Wissenschaft hat sich in bemerkenswertem Tempo von einer datenarmen zu einer datenreichen Umgebung entwickelt. Während Forschende früher bescheidene Datensätze generierten und ihre Ergebnisse vorwiegend in allgemeinverständlichen Artikeln kommunizierten, bewegen sie sich heute in einem Zeitalter exponentieller Datengenerierung. Viele dieser Daten sind hochdimensional, verteilt und nur von Maschinen verarbeitbar. Dieser Trend spiegelt sich jedoch nicht in der tatsächlichen Datennutzung wider. Um dies zu ändern, müssen Daten selbst als erstklassiges wissenschaftliches Ergebnis und nicht als Nebenprodukt von Artikeln behandelt werden.
Maschinen sind hervorragend darin, Muster in großen und komplexen Datensätzen zu erkennen. Doch sie besitzen kein inhärentes konzeptionelles Modell der für den Menschen relevanten Realität. Das Ergebnis ist eine nahezu unbegrenzte Menge an Mustern, von denen viele falsch und manche irreführend sind. Eine zentrale Herausforderung für die nächste Generation von Wissenschaftlern wird darin bestehen, sich in diesem Musterdschungel zurechtzufinden: aussagekräftige Signale von statistischem Rauschen zu unterscheiden. Menschliche Aufsicht ist nicht optional, sondern strukturell notwendig.
Politiker sollten sich zudem bewusst sein, dass KI in der Wissenschaft weit über große Sprachmodelle hinausgeht, die derzeit die öffentliche Diskussion dominieren. Das breitere Feld umfasst maschinelles Lernen zur Hypothesengenerierung, automatisierte experimentelle Arbeitsabläufe und wissensgraphenbasiertes Schließen – jede dieser Technologien birgt spezifische Risiken und Chancen, die angepasste Regulierungsmaßnahmen erfordern.
Die Qualität der KI-Ergebnisse in der Wissenschaft wird direkt durch die Qualität der Daten bestimmt. Varianten des Eingangssignals:FAIR-Daten (findbar, zugänglich, interoperabel und wiederverwendbar, zunehmend auch als „vollständig KI-fähig“ verstanden) sind die grundlegende Voraussetzung für verantwortungsvolle KI-gestützte Wissenschaft. Ohne sie werden KI-Modelle mit rohen, ungefilterten, potenziell voreingenommenen oder gar gefälschten Daten trainiert, was zu Fehlinterpretationen führt, die in klinischen Kontexten lebensbedrohlich sein und das Vertrauen in die Wissenschaft systematisch untergraben können. Dies gilt insbesondere dann, wenn die Wiederverwendung leicht auffindbarer Daten hauptsächlich durch Akteure außerhalb der Wissenschaft erfolgt, wie beispielsweise die derzeitigen LLM-Unternehmen.
Ebenso wichtig ist die Verwendung von FAIR-Konzeptmodellen zur Einschränkung von KI. AusgängeDurch die Bereitstellung strukturierter semantischer Rahmenwerke, in denen jedes Konzept genau definiert ist, wie sie miteinander in Beziehung stehen und was als gültige Schlussfolgerung gilt, verringern diese Modelle das Risiko von Halluzinationen erheblich und tragen dazu bei, dass die von KI generierten Ergebnisse für Menschen erklärbar, interpretierbar und überprüfbar bleiben.
Die Integritätskrise im wissenschaftlichen Publikationswesen verschärft diese Risiken. KI-Systeme können mittlerweile nahezu in Echtzeit plausibel wirkende Artikel, Daten und Rezensionen generieren. Allein für 2025 verzeichnete eine führende KI-Konferenz über 20,000 Einreichungen. Die Reaktion darauf (Wissenschaftler nutzen KI zur Begutachtung von KI-generierten Artikeln) birgt die Gefahr einer geschlossenen Rückkopplungsschleife, in der fehlerhafte Systeme sich gegenseitig ohne sinnvolle externe Kontrolle bewerten. FAIR-Daten, die direkt an der Quelle veröffentlicht werden und deren Herkunft somit nachvollziehbar ist, gehören zu den wirksamsten Mitteln, um diesem Trend entgegenzuwirken.
Dem Ganzen liegt ein strukturelles Fehlanreizsystem zugrunde. Forschende werden nach wie vor überwiegend für die Anzahl ihrer Artikel und Zitationsraten belohnt – eine Kennzahl, die für eine datenarme Zeit konzipiert wurde. Die Veröffentlichung qualitativ hochwertiger, FAIR-konformer Daten bringt kaum Anerkennung in der Fachwelt und keine garantierte Finanzierung. Das muss sich ändern.
Die technische Governance-Landschaft für Daten in der Wissenschaft befindet sich in einer Krise. Jahrzehntelange Abhängigkeit von wenigen großen Cloud-Anbietern, verbunden mit Rechtsinstrumenten wie dem US Cloud Act, hat ein akutes Problem der Datensouveränität geschaffen, insbesondere angesichts der jüngsten politischen Instabilität in den USA und ihrer Auswirkungen auf die international geteilte Forschungsinfrastruktur. Viele der weltweit wichtigsten wissenschaftlichen Datenressourcen liegen faktisch außerhalb der Jurisdiktionskontrolle der Institutionen und Gemeinschaften, die sie generiert haben.
Die FAIR-Prinzipien, ergänzt durch die CARE-Prinzipien (die die Rechte und Interessen indigener Völker in der Datenverwaltung berücksichtigen), bilden einen kohärenten Rahmen für verantwortungsvolle Datenverwaltung. Gemeinsam definieren sie die Bedingungen, unter denen Daten offen oder eingeschränkt, wiederverwendbar und souverän sein sollten. Das Konzept eines Internets der FAIR-Daten und -Dienste (IFDS), in dem Daten an ihrem Ursprung verbleiben und von autorisierten Algorithmen abgerufen statt kopiert und zentralisiert werden, bietet eine praktische architektonische Antwort. In diesem Modell werden Rechenanfragen an verteilte Datenknoten gesendet; Daten gelangen nur dann in zentrale Speicher, wenn dies unumgänglich ist.
Eine gleichberechtigte Teilhabe an KI-gestützter Wissenschaft erfordert zudem eine tatsächlich zugängliche Infrastruktur. Institutionen und Gemeinschaften im globalen Süden dürfen nicht länger passive Objekte der Datenwiederverwendung sein. Gleichzeitig darf die datenintensive Industrie nicht ausgeschlossen werden. Eine verteilte, FAIR-Infrastruktur, die so konzipiert ist, dass sie die Abhängigkeit von einzelnen Anbietern und Single Points of Failure vermeidet, ist der Mechanismus, der eine sinnvolle Teilhabe ermöglicht.
Eine kohärente politische Antwort erfordert Maßnahmen an mehreren Fronten:
Wissenschaft ist ein globales öffentliches Gut. Ihre Integrität, Gerechtigkeit und Offenheit sind keine Selbstverständlichkeit; sie erfordern aktive politische Entscheidungen. Die Chance, eine solide Steuerung für KI in der wissenschaftlichen Produktion zu etablieren, besteht derzeit, wird aber nicht ewig bestehen. Die jetzt getroffenen Entscheidungen über Datenstandards, Infrastruktur, Anreize und Aufsicht werden darüber entscheiden, ob KI vertrauenswürdige Wissenschaft beschleunigt oder sie systematisch untergräbt.
Foto von Getty Images für Unsplash+
Dieser Blog, der in Partnerschaft zwischen dem International Science Council (ISC) und Frontiers Policy Labs betrieben wird, ist Teil eines … 'Eine neue Wissenschaftspolitik im 21. Jahrhundert'' Die Reihe dient als dynamisches Diskussionsforum für zukunftsweisende Ideen zur Wissenschaftsgovernance. Abseits starrer akademischer Studien bringt die Initiative führende internationale Experten zusammen, um prägnante, provokante, aber faktenbasierte und zukunftsweisende Meinungsbeiträge zu verfassen. Damit will sie zur Entwicklung eines resilienten, inklusiven und transparenten Governance-Modells beitragen, das den Herausforderungen von morgen gewachsen ist.
Siehe den ursprünglichen Beitrag werden auf dieser Seite erläutert.
Disclaimer
Die in unseren Gastbeiträgen präsentierten Informationen, Meinungen und Empfehlungen geben die Ansichten der jeweiligen Autoren wieder und spiegeln nicht unbedingt die Werte und Überzeugungen des International Science Council wider.
Lesen Sie mehr über neue Technologien und Transformationen Lesen Sie mehr über die moderne Wissenschaft: geostrategische, technologische und gesellschaftliche Triebkräfte des Wandels Lesen Sie mehr über organisierte Wissenschaft im Zeitalter der KI: Schlafen wir am Steuer? 
Lesen Sie mehr über die Einführung der ersten KI-gestützten Forschungsplattform der Pacific Academy of Sciences und den regionalen F&E-Bewertungsbericht. 