Autor:
Fragt man fast jeden Wissenschaftspolitiker oder Forschungsförderer nach seiner Meinung zu künstlicher Intelligenz, erhält man eine ähnliche Antwort: KI verändert die Arbeitsweise von Wissenschaftlern grundlegend. Sie beschleunigt Literaturrecherchen, verarbeitet Datensätze in bisher unvorstellbarem Umfang und unterstützt das Verfassen und Begutachten von Manuskripten. Sie ist ein bemerkenswertes und zunehmend unverzichtbares Produktivitätswerkzeug.
Das ist nicht falsch. Aber es könnte unvollständig sein.
Die Fixierung auf KI als Werkzeug für Wissenschaftler (die sogenannte „eingeschränkte Sichtweise“ von KI in der Wissenschaft) verdrängt stillschweigend eine Reihe grundlegenderer Fragen. Fragen, die die Gemeinschaft der Organisationen und Institutionen, die für die Steuerung, Finanzierung und Koordinierung der Wissenschaft weltweit verantwortlich sind (im Folgenden: organisierte Wissenschaft), bisher kaum gestellt hat.
Die vorherrschende Diskussion über KI in der Wissenschaft dreht sich im Wesentlichen um Beschleunigung. KI kann mehr und schneller leisten. Sie kann Muster in Daten erkennen, die Menschen entgehen würden. Sie kann Entwürfe erstellen, übersetzen und zusammenfassen. Das sind echte Vorteile, und die Wissenschaftsgemeinschaft tut gut daran, ihnen Aufmerksamkeit zu schenken.
Diese Darstellungsweise behandelt KI jedoch implizit als etwas, das Wissenschaftler -Es handelt sich um ein hochentwickeltes Instrument, ähnlich einem Mikroskop oder einem Sequenzer, nur vielseitiger. Und wenn das Instrument den Rahmen bildet, lassen sich manche Fragen schwieriger stellen.
Was geschieht, wenn KI nicht nur den Forschungsprozess unterstützt, sondern dirigiert Was passiert, wenn KI nicht nur Daten verarbeitet, sondern auch Hypothesen formuliert, Experimente entwirft und die Ergebnisse mehr oder weniger autonom interpretiert? Das ist kein fernes Science-Fiction-Szenario. bereits veröffentlichte Beispiele von KI-Systemen, die mit minimalem menschlichen Eingriff neuartige wissenschaftliche Hypothesen generieren, und die weltweit führenden KI-Entwickler beschreiben die vollständig autonome KI-Forschung als eine Frage von Jahren, nicht von Jahrzehnten.
Um klar darüber nachzudenken, was auf dem Spiel steht, ist es hilfreich, zwischen zwei großen Szenarien zu unterscheiden.
Im ersten – vom Menschen geleitete Wissenschaft Künstliche Intelligenz durchdringt zwar alle Phasen des Forschungsprozesses, doch die menschliche Führung bleibt bestehen. Menschen entscheiden weiterhin, was untersucht wird. Sie legen die Forschungsagenda fest, formulieren die Fragestellungen und bestimmen die Richtung der Untersuchung. Auch wenn der Großteil der eigentlichen Forschung von KI durchgeführt wird, hat der Mensch die Zügel in der Hand und gibt die Richtung vor. Dies ist im Wesentlichen der Stand der Dinge heute, auch wenn der Anteil der KI rasant zunimmt.
Im zweiten – KI-gestützte Wissenschaft Künstliche Intelligenz führt nicht nur Forschung durch, sondern entscheidet auch, was erforscht wird. Die Forschungsagenda selbst wird nicht mehr allein von Menschen bestimmt. KI-Systeme prägen zunehmend, welche Fragen gestellt, welche Hypothesen generiert und welche Experimente priorisiert werden – sie gehen also über die reine Durchführung hinaus und setzen aktiv die Forschungsagenda. Zukünftige Fortschritte, wie die Integration physikalischer KI und robotischer Laborsysteme, könnten diesen Wandel weiter verstärken und es Modellen ermöglichen, sich direkt an Experimenten zu beteiligen, anstatt nur an deren Analyse. Wie dies in der Praxis aussehen wird, ist noch völlig ungewiss. Es wurde jedoch bereits angedeutet, dass … KI-gestützte Wissenschaft könnte ganz anders aussehen als alles, was wir bisher erkannt haben.Dies könnte nicht nur das Tempo der Wissenschaft verändern, sondern auch ihre zugrunde liegende Logik: den Kreislauf menschlicher Neugier, Vermutung und experimenteller Planung, der die Wissensproduktion seit Jahrhunderten bestimmt.
Die interessanten Fragen liegen in der Lücke zwischen diesen beiden Szenarien.
Wenn KI-Systeme autonom Forschung betreiben können, stellen sich eine Reihe grundlegender Fragen, die weit über Ethikrichtlinien oder Offenlegungspflichten hinausgehen. Dazu gehören:
Kann KI wirklich neues Wissen generieren? Die meisten aktuellen Modelle werden mit riesigen Mengen an vorhandenem menschlichem Wissen trainiert. Können sie wirklich neue Erkenntnisse über die Natur des Universums gewinnen oder sind sie letztendlich nur hochentwickelte Systeme zur Rekombination bereits bekannten Wissens?
Was geschieht mit der institutionalisierten Wissenschaft? Wenn Forschung von KI halbautonom durchgeführt werden kann, bedeutet das, dass jeder im Grunde Wissenschaftler sein kann? Werden Universität und Forschungsinstitut, wie wir sie kennen, weiterhin die primären Orte der Wissensproduktion bleiben? Und falls ja, verschiebt sich die Rolle des Wissenschaftlers zunehmend hin zur Verifizierung, wie etwa Faktenprüfung, Replikation und Validierung von KI-generierten Ergebnissen, anstatt zur Entdeckung neuer Erkenntnisse?
Wie können wir Vertrauen in KI-generiertes Wissen aufbauen? Die wissenschaftliche Gemeinschaft hat über Jahrhunderte hinweg eine Reihe von Normen und Mechanismen zur Validierung von Wissen entwickelt – Peer-Review, Replikation, offene Daten usw. Diese wurden für von Menschen erzeugte Wissenschaft konzipiert. Sie lassen sich möglicherweise nicht ohne Weiteres auf KI-generierte Wissenschaft übertragen.
Führt Open Science unbeabsichtigt zu einer Stärkung der Wissenschaft im Privatsektor? Der Trend hin zu offenem Zugang und offenen Daten wird allgemein als positiv bewertet. Die zunehmende Verfügbarkeit wissenschaftlicher Erkenntnisse im öffentlichen Bereich bedeutet jedoch auch, dass diese von kommerziellen Technologieunternehmen frei genutzt werden können, um ihre KI-Modelle zu trainieren und zu verbessern. Dies birgt ein Spannungsverhältnis zwischen dem Ideal der Wissenschaft als globales öffentliches Gut und dem Risiko eines neuen Wissensgenerierungssystems, das der globalen Wissenschaftsgemeinschaft gegenüber immer weniger rechenschaftspflichtig ist.
Die unbequeme Wahrheit ist, dass die für die Wissenschaftsgovernance zuständigen Organisationen und Institutionen in dieser Debatte weitgehend fehlen. Das multilaterale System konzentriert sich verständlicherweise auf KI-Ethik und -Governance. Einzelne Forschungsförderer und Universitäten arbeiten an der Aktualisierung ihrer Richtlinien für den verantwortungsvollen Umgang mit KI-Werkzeugen. Dies sind notwendige Reaktionen auf den unmittelbaren Druck.
Doch die größeren Fragen nach dem zukünftigen Wesen der Wissenschaft, der zukünftigen Rolle menschlicher Forscher und der Zukunft der Wissensproduktion als öffentliches Gut werden auf institutioneller Ebene weitgehend unbeantwortet gelassen. Science Systems Futures-Projekt Ein Projekt des International Science Council versucht, einige dieser Entwicklungen zu untersuchen und zu erforschen, wie neue Technologien die Wissenschaftssysteme im globalen Süden verändern. Doch solche Gespräche sind nach wie vor zu selten.
Unterdessen wird KI von Forschern vor Ort rasant adaptiert, oft weit vor jeglichen institutionellen Vorgaben. Dies offenbart eine echte Diskrepanz: Die Führungsebene der organisierten Wissenschaft versucht noch immer zu verstehen, was KI ist und wie sie die Dinge verändern könnte, während die praktische Umsetzung bereits weit fortgeschritten ist.
Sind wir, um es mal ganz deutlich zu sagen, etwa am Steuer eingeschlafen?
Es geht hier nicht darum, ob wir die Einführung von KI in der Wissenschaft verlangsamen können oder sollten. Es ist auch kein Aufruf zur Verzweiflung. Es ist ein Appell an die organisierte Wissenschaft, den Blick vom Kurzfristigen abzuwenden und langfristiger zu denken – nicht nur zu fragen: „Wie setzen wir KI heute verantwortungsvoll ein?“, sondern: „Welche Art von Wissenschaftssystem wollen wir in zehn oder zwanzig Jahren, und was wäre nötig, um dorthin zu gelangen?“
Das bedeutet, Raum für eine andere Art von Dialog zu schaffen – einen Dialog, der Expertinnen und Experten zusammenbringt, die sich intensiv mit Unsicherheit, dem langfristigen Verlauf der Wissensproduktion und den Grenzen bestehender Rahmenbedingungen auseinandersetzen. Diese Gespräche würden sich weniger auf die aktuellen politischen Reaktionen auf KI konzentrieren, sondern vielmehr auf die Bandbreite plausibler Zukunftsszenarien und die Frage, wie man sich darauf vorbereiten kann.
Das bedeutet auch, sicherzustellen, dass die Wissenschaftsgemeinschaft, einschließlich Forschender und politischer Entscheidungsträger, über die konzeptionellen Werkzeuge verfügt, um sich als informierte Akteure und nicht als bloße Objekte des Wandels mit diesen Fragen auseinanderzusetzen. Dazu gehören Rahmenkonzepte, um über die Handlungsfähigkeit von KI, die Erkenntnistheorie maschinell generierten Wissens und die langfristigen Auswirkungen auf die Kontrolle der Forschungsagenda nachzudenken.
Das Zeitfenster, um hier einen Schritt voraus zu sein, schließt sich. Die organisierte Wissenschaft hat die Chance und wohl auch die Verantwortung, die Transformation der Wissensproduktion durch KI aktiv mitzugestalten, anstatt sich lediglich an Veränderungen anzupassen, die ausschließlich von anderen vorangetrieben werden.
Das beginnt damit, die richtigen Fragen zu stellen. Wir stellen sie noch nicht.
Photo by Igor Omilaev on Unsplash
Lesen Sie mehr über Science Systems Futures
Lesen Sie mehr über den Einfluss von Daten und KI auf die wissenschaftliche Produktion
Lesen Sie mehr über die Einführung der ersten KI-gestützten Forschungsplattform der Pacific Academy of Sciences und den regionalen F&E-Bewertungsbericht.
Lesen Sie mehr über neue Trends, die wissenschaftliche Karrieren prägen
