Podcast mit Cory Doctorow: Science Fiction und die Zukunft der Wissenschaft: Digitale Fortschritte für die Zukunft nutzen

Wissenschaftler und Forscher schätzen Science-Fiction zunehmend wegen ihres Beitrags zur Vorwegnahme zukünftiger Szenarien. Im Rahmen seiner Mission, die Richtungen zu erforschen, in die uns Veränderungen in der Wissenschaft und den Wissenschaftssystemen führen, hat das Zentrum für Science Futures Wir haben uns mit sechs führenden Science-Fiction-Autoren zusammengesetzt, um ihre Ansichten darüber zu sammeln, wie die Wissenschaft die vielen gesellschaftlichen Herausforderungen bewältigen kann, denen wir in den nächsten Jahrzehnten gegenüberstehen. Der Podcast ist eine Partnerschaft mit Natur.

In unserer sechsten und letzten Folge spricht Cory Doctorow mit uns über das Thema Vertrauen in die Wissenschaft und darüber, was wir tun können, um es zu stärken. Er befasst sich mit Fragen der künstlichen Intelligenz sowie zu Algorithmen und Trainingsmodellen. Für Doctorow möchte er sehen, wie die koordinative Kraft der digitalen Technologie für eine nachhaltigere Zukunft genutzt werden kann.

Abonnieren und hören Sie über Ihre Lieblingsplattform

---

---

Abschrift

Paul Shrivastava (00:03):

Hallo, ich bin Paul Shrivastava von der Pennsylvania State University. In dieser Podcast-Reihe spreche ich mit einigen der weltweit führenden Science-Fiction-Autoren. Ich möchte von ihnen hören, wie die Wissenschaft uns bei der Bewältigung der vielfältigen Herausforderungen helfen kann, die vor uns liegen. Schließlich leben sie davon, über die Zukunft nachzudenken und darüber, wie sie sein könnte oder sollte.

In dieser Folge spreche ich mit Cory Doctorow, einem Science-Fiction-Romanautor, Journalisten und Technologieaktivisten. In den letzten zwei Jahrzehnten hat er zahlreiche Arbeiten zu Technologiemonopolen und digitaler Überwachung veröffentlicht. Unser Gespräch drehte sich um die Verwaltung digitaler Rechte sowie um soziale Gerechtigkeit und Nachhaltigkeit in der digitalen Welt. Ich hoffe du genießt es.

Willkommen, Cory, und vielen Dank, dass Sie Teil dieses Podcasts sind. Können Sie uns zunächst etwas mehr über Ihre Beziehung zur Wissenschaft im Allgemeinen und zum Science-Fiction-Schreiben erzählen?

Cory Doctorow (01:05):

Nun, ich bin unter äußerst glücklichen Umständen für jemanden aufgewachsen, der sich für Science-Fiction interessiert. Ich bin in den 1980er Jahren speziell in Toronto aufgewachsen. Und da war eine Frau, die auf diesem Gebiet ein ziemlicher Wirbelwind war, eine Frau namens Judith Merril, eine großartige Schriftstellerin, Herausgeberin und Kritikerin. Sie war die Doyenne der neuen britischen Science-Fiction-Welle. Und so erlaubte Judy jedem, seine Geschichten zu erzählen und sie mit ihr zu besprechen, sie würde sie kritisieren. Das war also so... ich weiß es nicht. Es ist, als ob Sie sich bei Ihren Physik-Hausaufgaben von Einstein helfen lassen würden. Und dann startete sie diese Schreibworkshops, in denen sie die vielversprechenden Autoren, die zu ihr kamen, zu wöchentlichen Treffen zusammenbrachte. Und so war ich viele Jahre lang in einer davon und kam einer formellen Ausbildung in Science-Fiction so nahe wie möglich.

Was die Wissenschaft angeht, wissen Sie, ich bin ein Dilettant. Dem Beruf eines Wissenschaftlers komme ich am nächsten, wenn ich einen Ehrentitel in Informatik von der Open University habe, an der ich Gastprofessor für CS bin. Und insbesondere habe ich eine gute politische Beziehung zur Informatik, weil ich seit mehr als 20 Jahren in einem Bereich arbeite, den wir allgemein als digitale Menschenrechte bezeichnen könnten, und zwar im Zusammenhang mit Zugang zu Informationen, Zensur, Privatsphäre und Gerechtigkeit online.

Paul Shrivastava (02:17):

Schauen wir uns einige dieser Probleme etwas genauer an. Sie haben sich mit einer Reihe dieser Themen im Zusammenhang mit technologischen Fortschritten befasst und wissen, wessen Interessen und Begünstigungen sie beeinflussen. Sie haben über Überwachungstechnologie gesprochen Kleiner Bruder, Urheberrechtsgesetze in Piratenkino, zur Kryptowährung in Rotes Team Blues. Sehr oft werden in den Erzählungen die negativen Folgen eines ungebremsten technologischen Wachstums oder eines technologischen Wachstums im Dienste des Kapitalismus, wenn man so will, dargestellt. Wie sehen Sie also die Rolle der Wissenschaft in dieser zunehmend digitalen Landschaft, in die wir eintreten?

Cory Doctorow (02:57):

Ich denke, dass es ohne Gerechtigkeit keine Wissenschaft geben kann. In dem Sinne, dass das, was die Wissenschaft von den Formen der Wissensschaffung unterscheidet, die der Aufklärung vorausgingen, der Zugang ist, der die Voraussetzung für kontradiktorische Begutachtung durch Fachkollegen ist. Abgesehen von einer moralischen Verpflichtung – von der wir meiner Meinung nach sagen können, dass wir alle gegenseitig moralische Pflichten haben – gibt es meines Erachtens nur einen instrumentellen Grund dafür, zu sagen: Wenn andere Menschen Ihre Daten und Methoden nicht einsehen dürfen, und versuchen, Ihre Arbeit zu reproduzieren und Sie frei zu kritisieren, dann betreiben Sie keine Wissenschaft. Alchemisten haben etwas getan, das sehr nach Wissenschaft aussah, oder? Sie beobachteten die Welt, formulierten eine Hypothese, entwarfen ein Experiment, führten das Experiment durch und starben dann alle an den Folgen des Quecksilberkonsums. Denn es stellt sich heraus, dass man sich vorstellen kann, dass das Experiment bis zu dem Punkt ein Erfolg war, an dem die Quecksilbervergiftung einen tötet.

Cory Doctorow (04:05):

Und der Unterschied zwischen Alchemie und Wissenschaft besteht nicht darin, dass die nachfolgenden Wissenschaftler schlauer oder weniger anfällig für Selbsttäuschung waren. Es liegt daran, dass sie den strengen kontradiktorischen Peer-Reviews unterzogen wurden, die als Voraussetzung Veröffentlichung und Zugang erfordern. Und ich denke, dass es für die Regulierungsbehörden sehr schwierig ist, unabhängig zu bleiben, wenn es eine Machtkonzentration im kommerziellen Sektor gibt, also ein Monopol. Diese Firmen werden zu groß, um zu scheitern, und zu groß, um ins Gefängnis zu gehen. Dann schafft man tatsächlich die Voraussetzungen dafür, dass Menschen die Wissenschaft leugnen, was katastrophale Folgen für sie selbst, aber auch für uns alle hat.

Paul Shrivastava (04:39):

Nun, ich stimme Ihnen zu, dass Bedarf besteht. Ich denke, die Übernahme, die Sie meinen, durch die Kräfte von Unternehmen und Regierungen, die die beiden Hauptfinanzierungsquellen für die Wissenschaft sind, ist vollständig. Und jetzt betrachten wir künstliche Intelligenz als ein allgegenwärtiges wissenschaftliches Unterfangen, das alles verändern wird. Welche politischen Empfehlungen könnten Sie für diesen gesamten Bereich vorschlagen?

Cory Doctorow (05:09):

Zunächst möchte ich sagen, dass Sie als Erster, der KI erwähnt hat, allen anderen in diesem Gespräch einen Drink schulden. Das ist mittlerweile bei KI die Regel. Lassen Sie mich mit einem Vorbehalt beginnen: Ich bin nicht davon überzeugt, dass KI das ist, was Sie sagen, dieses allgegenwärtige wissenschaftliche Unterfangen, das aus vielen Gründen alles verändern wird. Ich bin skeptisch, dass die KI ohne genaue Aufsicht in der Lage sein wird, zuverlässige Dinge zu produzieren, die zuverlässig genug sind, um in Umgebungen mit hohem Einsatz eingesetzt zu werden. Und wenn die Überwachung den gleichen Grad an Sorgfalt erfordert wie zuvor, dann weiß ich nicht, ob dafür ein Grund besteht. Ich denke, wenn wir in Bezug auf unsere Regulierung umsichtig sind und sagen: „Sehen Sie, wenn die KI halluzinieren kann und wenn die Halluzination zu tödlichen Folgen führt, kann die KI nur in einem Verhältnis von eins zu … überwacht werden.“ eins." Wenn das selbstfahrende Auto in 90 % der Fälle sicher fährt und in 10 % der Fälle in den Gegenverkehr beschleunigt, dann ist die Anzahl der Fahrer-Betreuer, die Sie für jedes selbstfahrende Auto benötigen, eins, was bedeutet, dass Sie dies nicht tun Schaffe es, einen einzelnen Fahrer zu feuern. Jetzt haben Sie also einfach ein teureres Auto. 

Cory Doctorow (06:14):

Und ich denke, dass jede Blase, die darauf angewiesen ist, weiterhin Investitionskapital anzuziehen, das größtenteils in Brand gerät, bevor eine Rendite erzielt wird, wirklich auf großem Hype basieren muss. Und wir sehen diesen Hype um uns herum in enormem Ausmaß. Anstatt sich über die tatsächlichen, offensichtlichen Sorgen um die KI zu sorgen, den Entscheidungsunterstützungsalgorithmus, der Ihnen aufgrund Ihrer Rasse eine Hypothek verweigert, der Ihr Kind aufgrund Ihres wirtschaftlichen Status in Schutzeinrichtungen schickt oder der Ihnen die Kaution oder den Eintritt in eine Sozialversicherung verweigert Land, wir konzentrieren uns – ehrlich gesagt, in meiner beruflichen Eigenschaft – auf schlechte Science-Fiction über die automatische Vervollständigung von Steroiden, die aufwacht und uns alle in Büroklammern verwandelt. Das lässt die wirklichen materiellen Dinge, die mit der KI geschehen, außer Acht.

Paul Shrivastava (07:08):

Welche Rolle spielen Wissenschaftskommunikatoren also beim Platzen dieser Blase, des Hypes, der sich um KI aufgebaut hat? Ich meine, die allgemeine Erzählung da draußen ist, dass es alles verändern wird. Und ich höre von Ihnen, dass dem einige wirklich grundlegende Probleme zugrunde liegen.

Cory Doctorow (07:26):

Ich denke, dass es in der Hauptlinie der wissenschaftlichen Kommunikation über KI einige Lücken gibt, die fruchtbar geschlossen werden könnten. Daher habe ich noch nie gehört, dass ein populärwissenschaftliches Programm die potenziellen Grenzen des föderierten Lernens beschreibt. Z.B. Was passiert, wenn wir die großen Server abschalten? Was wäre, wenn die Investoren einfach weiterziehen würden? Wie sieht KI aus, wenn wir nie wieder ein anderes großes Modell trainieren und nur die vorhandenen Modelle so optimieren, dass sie auf handelsüblicher Hardware laufen können? Und dann eine Taxonomie von Anwendungen, die nicht auf die allgemein bekannten Probleme mit KI reagieren, also solche mit geringem Einsatz oder solche, die robust sind. Was sind das für Anwendungen? Wenn wir alle Bewerbungen annehmen, bei denen Sie eine persönliche Betreuung benötigen, welche sind das? Und wir nehmen diese heraus, und was bleibt dann übrig?

Paul Shrivastava (08:15):

Kommen wir nun zum Gespräch über die Zeit des Anthropozäns. Prozesse, die das Leben unterstützen, verändern sich jetzt, wenn nicht sogar völlig zusammenbrechend. Wie können wir den Fortschritt in der digitalen Welt, über den Sie auf so viele verschiedene Arten berichtet haben, nutzen, um die Auswirkungen des Menschen auf die Umwelt zu mildern und eine nachhaltige Zukunft zu gewährleisten?

Cory Doctorow (08:38):

Mein neuester Roman ist ein Roman darüber, er heißt Die verlorene Sache. Und das, was in diesem Roman passiert ist, ist kein deus ex. Wir haben noch nicht herausgefunden, wie wir die CO2-Abscheidung mit einer Geschwindigkeit erreichen können, die dem aktuellen Stand der Technik widerspricht. Aber was wir getan haben, ist, dass wir es ernst genommen haben. Hier sitzen wir, wissen Sie, gefangen in diesem Bus und rasen auf eine Klippe zu. Und die Leute in den ersten Reihen und in der ersten Klasse sagen immer wieder, es gibt keine Klippe. Und wenn es eine Klippe gibt, beschleunigen wir einfach so lange, bis wir darüber hinweg sind. Und eines wissen wir mit Sicherheit: Wir können nicht ausweichen. Wenn wir ausweichen, könnte der Bus überschlagen und jemand könnte sich den Arm brechen, und niemand möchte einen gebrochenen Arm. Und dies ist ein Buch, in dem die Leute das Lenkrad ergreifen und ausweichen. Wo Millionen von Menschen an sehr ernsten, langfristigen Projekten beteiligt sind, beispielsweise um die Umsiedlung aller Küstenstädte mehrere Kilometer landeinwärts. 

Cory Doctorow (09:32):

Und diese Klimaanpassung ist, wenn man darüber nachdenkt, ziemlich schwindelerregend. Es kann ein wenig demoralisierend wirken, wenn man denkt: Nun ja, ich schätze, all die freie Arbeit, die jeder in den nächsten 300 Jahren hat, wird in die Behebung dieser dummen Fehler fließen, die wir zuvor gemacht haben. Und so ist dies ein Buch, das von diesem Projekt handelt. Und es geht darum, dieses Projekt auf der Grundlage der Erkenntnisse einer lieben Freundin von mir weiterzuverfolgen, die kürzlich ein sehr gutes Buch geschrieben hat, Debbie Chachra, deren Buch den Titel trägt Wie Infrastruktur funktioniert. Und Deb ist Materialwissenschaftlerin und weist darauf hin, dass Energie praktisch unendlich reichlich vorhanden ist, Materialien jedoch sehr knapp sind. Und doch haben wir die meiste Zeit der Menschheitsgeschichte Materialien als reichlich vorhanden behandelt, sie nur einmal verwendet und dann weggeworfen. Und wir haben Energie als knapp betrachtet. Und es gibt eine technische Neuorientierung, die in diesem Buch latent vorhanden ist und die Deb in ihrem Buch sehr deutlich macht, indem wir beispielsweise mehr Energie verwenden, um Dinge zu produzieren, damit sie leichter wieder in den Materialstrom zerlegt werden können.

Paul Shrivastava (10:38):

Wir scheinen damit beschäftigt zu sein, den Planeten in einem beispiellosen Tempo zu verbrauchen. Und kann Science-Fiction den Menschen irgendwie dabei helfen, ihre Weltanschauung neu zu formulieren, damit sie besser mit dem, was hier vor sich geht – unseren Herausforderungen auf diesem Planeten – vereinbar ist?

Cory Doctorow (10:54):

Nun, und darüber schreibe ich seit meinem Roman Weggehen, im Jahr 2017. Diese Idee, dass Fülle aus dem Zugang zu Material entsteht, aber auch aus der sozialen Konstruktion dessen, was wir wollen. Und schließlich die Effizienz der Warenverteilung. Ich bin also Hausbesitzer und das bedeutet, dass ich dreimal im Jahr ein Loch in eine Wand bohren muss. Und so besitze ich eine Bohrmaschine, und ich nenne sie scherzhaft die minimal lebensfähige Bohrmaschine. Es ist die Bohrmaschine, die für jemanden, der drei Löcher pro Jahr bohrt, wirtschaftlich sinnvoll ist. Und ich muss eine ganze Schublade für die Aufbewahrung dieses schrecklichen Bohrers hergeben. Und Ihnen wird klar, dass Sie eine enorme Steuer zahlen, sowohl in Bezug auf die Qualität der Waren, die Sie haben, als auch auf die Verfügbarkeit von Platz in Ihrem Zuhause, um den Zugriff auf Dinge zu behalten, die Sie selten benötigen. Es gibt noch eine andere Art von Übung, ich nenne sie manchmal die Übung zum Bibliothekssozialismus, bei der es in Ihrer Nachbarschaft einfach eine stochastische Wolke von Bohrern gibt, die wissen, wo sie sich befinden, und die Telemetrie über ihren Einsatz führen, um die zukünftige Fertigung zu verbessern. Sie zersetzen sich leicht wieder in den Stoffstrom. Und Sie können die Bohrmaschine jederzeit zur Hand nehmen, wenn Sie sie brauchen, und sie ist die beste Bohrmaschine, die je hergestellt wurde.

Cory Doctorow (12:08):

Multiplizieren Sie das mit Rasenmähern und den zusätzlichen Tellern, die Sie für Weihnachten oder Dinnerpartys aufbewahren, und all den anderen Dingen in Ihrem Haus, die Sie nicht ständig brauchen. Und das ist eine Welt von enormem Überfluss. Das ist mehr Luxus. Und wenn man diese drei Dinge kombiniert, die Effizienz des Material- und Energieverbrauchs, die koordinative Natur der Technologie und die Technik unserer Wünsche, gibt es eine Zukunft, in der wir mit einem viel kleineren Material- und Energie-Fußabdruck leben und einen viel größeren haben Luxusleben. Ein Leben in enormem Überfluss.

Paul Shrivastava (12:42):

Zu dieser hoffnungsvollen Botschaft möchte ich Ihnen noch eine letzte Frage stellen. Und das heißt, wenn es eine Lektion gäbe, die die Wissenschaft aus der Science-Fiction lernen könnte, welche wäre das Ihrer Meinung nach?

Cory Doctorow (12:56):

Ich würde sagen, dass das Wichtigste, was Science-Fiction in Bezug auf die Wissenschaft bewirkt, darin besteht, die sozialen Beziehungen der Technologie sowie der wissenschaftlichen Entdeckungen und wissenschaftlichen Erkenntnisse herauszufordern. Die wichtigste Frage im Zusammenhang mit Technologie lautet selten: Was bewirkt sie? Sondern: Für wen tut es das und wem gegenüber tut es es? Und dass Technologie unter demokratischer Kontrolle ganz anders ist als Technologie, die den Menschen aufgezwungen wird.

Die Idee, dass eine Technologie mit der Bescheidenheit entwickelt wurde, zu verstehen, dass man die Umstände, unter denen diese Technologie verwendet wird, nicht vorhersagen kann – und daher den Benutzern den Raum lässt, sie anzupassen –, ist die beste aller technischen Welten. Und jede Sprache hat dafür einen Namen. Man könnte es „Bodge“ nennen, was manchmal etwas abwertend ist. Aber ich denke, wir alle mögen einen guten Bodge. Auf Französisch heißt es Bricolage. Auf Hindi heißt es Jugaad.

Paul Shrivastava (14:00):

Jugaad!

Cory Doctorow (14:02):

Jede Sprache hat dafür ein Wort und wir lieben es. Und nur durch die Demut, das Unvorhersehbare vorherzusehen, sind wir die würdigen Vorfahren unserer intellektuellen Nachkommen, die nach uns kommen werden.

Paul Shrivastava (14:22):

Vielen Dank, dass Sie sich diesen Podcast des Center for Science Futures des International Science Council angehört haben, der in Zusammenarbeit mit dem Arthur C. Clarke Center for Human Imagination an der UC San Diego erstellt wurde. Besuchen Sie Futures.council.science, um weitere Arbeiten des Center for Science Futures zu entdecken. Es konzentriert sich auf neue Trends in Wissenschafts- und Forschungssystemen und bietet Optionen und Werkzeuge, um fundiertere Entscheidungen zu treffen.

---

Paul Shrivastava, Professor für Management und Organisationen an der Pennsylvania State University, moderierte die Podcast-Reihe. Sein Spezialgebiet ist die Umsetzung nachhaltiger Entwicklungsziele. Der Podcast wird auch in Zusammenarbeit mit dem Arthur C. Clarke Center for Human Imagination an der University of California, San Diego, erstellt.

Das Projekt wurde betreut von Matthias Denis und vorbeigetragen Dong Liu, Aus der Zentrum für Science Futures, der Think Tank des ISC.

---

---

Foto von Elimende Inagella on Unsplash.

---

Haftungsausschluss

Die in unseren Gastblogs präsentierten Informationen, Meinungen und Empfehlungen sind die der einzelnen Autoren und spiegeln nicht unbedingt die Werte und Überzeugungen des International Science Council wider.