Die Herausforderung des nächsten Jahrzehnts besteht darin, das digitale Jahrhundert mit der Demokratie kompatibel zu machen

Sie arbeiten seit vielen Jahren an der Schnittstelle von Technologie, Macht und Gesellschaft. Ihr neustes Werk, Das Zeitalter des Überwachungskapitalismus: Der Kampf für eine menschliche Zukunft an der neuen Grenze der Macht, adressiert die zentralen Herausforderungen digitaler Technologien an unsere Menschheit. Sie sind auch Sozialpsychologe mit langjähriger Erfahrung in interdisziplinären Forschungsteams. Wie sollten wir vor diesem Hintergrund menschliche Entwicklung heute neu denken? Was sind die wichtigsten Herausforderungen? Was sind die Hoffnungen?

Das Konzept der menschlichen Entwicklung ist ein modernes psychologisches Konzept, aber das Phänomen der menschlichen Entwicklung ist nicht rein modern. Es gibt einen langen Bogen und einen zeitgenössischeren Bogen. Es ist ein Phänomen, das sich über Jahrtausende entwickelt hat, weil die menschliche Entwicklung innerhalb der Existenzbedingungen stattfindet, die in der Geschichte auftreten. In diesem großen Bogen hat sich die menschliche Entwicklung über Jahrtausende hin zu einem Metaprozess der Individualisierung bewegt. Wenn wir an die Geschichte der Mentalitäten und der menschlichen Sensibilität denken, wurde die Vorstellung des Individuums als einer psychologischen Einheit über viele Jahrhunderte und Jahrtausende hinweg extrudiert und mit großen Schwierigkeiten und Opfern in die Länge gezogen. Dies größeren Bogen von Jahrtausenden stellt einen langen Prozess der Differenzierung und der Konstruktion des Selbst dar. Sie hat die psychologischen Individuen hervorgebracht, an die wir heute denken, wenn wir von menschlicher Entwicklung sprechen.

Dieses neue Individuum zeichnet sich durch die Konstruktion des Innenlebens als legitimen Bereich aus, der – in der Entstehungsgeschichte des individuellen Innenlebens – nicht nur eine legitime Stellung, sondern eine Dringlichkeit und Autorität einnimmt, die in gewisser Weise das Soziale aufhebt und kollektives Leben. Das psychologische Individuum ist grundlegend für die eigentliche Möglichkeit und Idee der Demokratie, ganz zu schweigen von ihrer praktischen Konstruktion – wie unvollkommen sie auch sein mag. Wir können uns eine demokratische Gesellschaft nicht vorstellen, ohne uns psychologische Individuen vorzustellen, die einen freien Willen, Autonomie, Selbstreferenzfähigkeiten zu Normen, Werten und Rechten haben und die sich Situationen vorstellen können, in denen ein innerer Bezug zu Grundrechten stärker ist als die unmittelbaren Anforderungen von Autorität oder des Kollektivs.

Der zeitgenössische Bogen spiegelt die Existenzbedingungen wider, die wir heute erleben, die uns nun auch dazu herausfordern, über uns selbst hinauszublicken, weil Bedrohungen ein kollektives Handeln erfordern, das auf der Aufmerksamkeit für unsere gemeinsame Menschlichkeit basiert. Wir sind herausgefordert, die Fähigkeiten der Individualisierung in einen größeren Kontext zu bringen, der wirklich der Kontext von „uns“ ist. Den heutigen Bedrohungen kann nicht allein mit den hochgeschätzten Fähigkeiten der Autonomie, Entscheidungsfreiheit und der Fähigkeit zu individueller Urteilskraft, Selbstreferenz und Selbstreflexion begegnet werden. Wir lassen sie nicht zurück, aber wir müssen sie in einen größeren gefühlten Raum integrieren, und dies wird unsere Komposition von dem, was wir als „entwickelt“ betrachten, weiter differenzieren.

Die Herausforderung besteht nun darin, sich von diesen Wundern der Individualisierung zu einer neuen Grenze zu bewegen, die durch das Individuum in Beziehung zum Kollektiv definiert wird. Nicht durch Opposition, Beherrschung und Unterwerfung, sondern durch notwendige Solidarität. Das ist eine neue Art von Sensibilität. Die Klimakrise zum Beispiel erfordert diesen Wandel. Wir können uns nicht nur als Individuen betrachten, was wesentlich ist, sondern wir müssen auch als „eins“, als Kollektiv, als Menschheit denken, denn es gibt keine Möglichkeit, die Bedrohung für uns selbst von der Bedrohung für uns zu trennen – das ist es dank One Drohung.

Analog zu den Klimaherausforderungen sehe ich die Herausforderungen des digitalen Jahrhunderts: Herausforderungen für uns alle und gleichzeitig Herausforderungen für jeden von uns. Wenn wir über die Bedrohungen des digitalen Jahrhunderts sprechen, hören wir, dass die Privatsphäre eine wichtige Rolle spielt. Datenschutz ist jedoch ein „Schlagwort“. Wir unterliegen der Illusion, dass Privatsphäre etwas Privates ist, weil wir dieses Konzept durch die Linse der Individualisierung betrachten. Dies verwässert die Bedeutung von Privatsphäre zu einer Art privater Berechnung, Berechnungen, die von den Imperien des Überwachungskapitalismus ausgenutzt werden.

Zum Beispiel denken wir: „Ich gebe Ihnen diese wenigen persönlichen Informationen – vielleicht ein Foto, das ich in sozialen Medien poste – als Gegenleistung für den „kostenlosen“ Service, mein Foto mit Freunden und Familie zu teilen und zu verbinden“. Tatsächlich kann Privatsphäre in mindestens zweierlei Hinsicht kein privates Kalkül sein: Erstens wird sich eine Gesellschaft, die die Privatsphäre schätzt, immer grundlegend von einer Gesellschaft unterscheiden, der die Privatsphäre gleichgültig gegenübersteht. Eine überwachte Gesellschaft wird niemals dasselbe sein wie eine Gesellschaft, die die Privatsphäre als Recht priorisiert. Sie werden uneins sein in ihrer Achtung vor der Würde des souveränen Individuums, der Fähigkeit zur menschlichen Autonomie, Entscheidungsfreiheit, Willensfreiheit und Entscheidungsrechten – alles Fähigkeiten, die für das demokratische Selbst wesentlich sind. Gleichzeitig werden wir jedes Mal, wenn wir uns auf diese einfachen Kompromisse zwischen kostenlosen Dienstleistungen und einem privaten Vorteil einlassen, von einer Lüge gefangen genommen. Die kapitalistischen Überwachungsimperien haben beispiellose Konzentrationen von Informationen über uns durch Systeme angehäuft, die darauf ausgelegt sind, verborgen zu bleiben. Das meiste, was sie besitzen, wurde uns ohne unser Bewusstsein genommen. Diese Daten speisen Systeme der künstlichen Intelligenz, um Muster zu entdecken und zukünftiges Verhalten vorherzusagen. Das Endergebnis dieses Austausches hat nichts mit unserer vermeintlichen Privatkalkulation zu tun; es handelt sich um Informationen, die ohne unser Wissen und ohne unsere Zustimmung aus unserer Erfahrung gewonnen werden. Es ist ganz einfach, Überwachung. Indem wir uns dafür entscheiden, an diesen beispiellosen Wissens- und Machtsystemen teilzunehmen, tragen wir unwissentlich zur groß angelegten Überwachung und Kontrolle der Gesellschaft bei.

Zum Beispiel posten wir unschuldig und bereitwillig unsere Fotos auf Facebook und anderen Teilen des Internets. Diese Fotos werden ohne unser Wissen und sicherlich ohne unsere Erlaubnis aufgenommen, zum Beispiel von Microsoft – einem führenden Überwachungskapitalisten – für den größten Datensatz der Welt, der zum Trainieren von Gesichtserkennungsalgorithmen verwendet wird. Als Microsoft seinen „Microsoft Celeb“-Trainingsdatensatz für die Gesichtserkennung erstellte (es stellte sich heraus, dass sie NICHT nur Gesichter von Prominenten aufnehmen), sagten sie, dass dies nur für die akademische Forschung sei. Tatsächlich wurde der Datensatz jedoch an Strafverfolgungsbehörden, Unternehmen und Militäroperationen verkauft, einschließlich der Militärabteilung der chinesischen Armee, die Mitglieder der muslimischen Minderheit der Uiguren in Xinjiang einsperrt. Die ganze Provinz ist im Wesentlichen ein überwachter Ministaat. Es gibt spezielle Internierungslager in Xinjiang, in denen Menschen durch die allgegenwärtige Präsenz von Gesichtserkennungssystemen eingesperrt werden, die sie auf der Straße, in ihren Häusern und an ihren Arbeitsplätzen usw. kontinuierlich überwachen. Diese Gesichtserkennungssysteme sind auf unseren Gesichtern aufgebaut wir freiwillig gegeben haben, unter der Täuschung, dass Privatsphäre privat ist. Nein ist es nicht. Privatsphäre ist öffentlich – ein kollektives Gut, das nur noch durch kollektiven Willen bewahrt werden kann.

Hier haben wir dieses sehr sichtbare Beispiel dafür, wie das Denken über dieses Problem, als ob wir nur Individuen wären, mit der Fähigkeit zum Urteilsvermögen und Entscheidungsrechten, einen privaten Kompromiss einzugehen, zu kollektiven Systemen von Tragödie und Gewalt, Kontrolle und Ungerechtigkeit beiträgt. Deshalb verbinde ich die Herausforderungen des digitalen Jahrhunderts mit denen der Klimakatastrophe. Es sind Herausforderungen, die unsere individuellen Fähigkeiten zur Lösung übersteigen. Sie verlangen von uns, dass wir unsere hart erkämpften Fähigkeiten als Individuen in einen größeren Rahmen unseres Denkens, Fühlens und Handelns als Mitglieder einer Klasse namens Menschlichkeit integrieren. Das ist die positive Herausforderung für die Menschen auf der ganzen Erde. Dies ist der neue Wettbewerb der menschlichen Entwicklung.

Die Alternative zu unserem Engagement an dieser weiteren Grenze der menschlichen Entwicklung ist bereits in der Vision der Überwachungskapitalisten unserer Zukunft vorhanden. Ihre Lösung besteht darin, Systeme zur Überwachung und Kontrolle der Bevölkerung einzusetzen, um die Gesellschaft als eine wieder aufzubauen Bienenstock. Diese Schwarmgesellschaft wird durch psychologische Auslöser, unterschwellige Hinweise, konstruierte soziale Vergleichsdynamiken, Belohnungen und Bestrafungen in Echtzeit und die Freuden der Gamification ferngesteuert und gesteuert. Dies sind die Werkzeuge, die die Tuner, die den menschlichen Bienenstock verwalten, erfinden, um das Soziale neu zu definieren.

In dieser Zukunft finden wir das statt Gesellschaft, Es ist Bevölkerung; Anstatt von Einzelpersonen er ist Statistiken; Anstatt von demokratische Regierungsführung, Es ist Computational Governance, wo Populationen basierend auf Verhaltensdatenflüssen und ihrer Einhaltung vorgegebener algorithmischer Parameter aus der Ferne abgestimmt werden. Diese Computational Governance wird als Top-Down-Lösung für die aufkommenden Herausforderungen der menschlichen Entwicklung auferlegt. Was hier entsteht, sind Algorithmen, nicht Menschen. Computational Governance ist ein Ersatz für die mühsame, herausfordernde Arbeit der menschlichen Entwicklung.

Die Politik des Bienenstocks ist eine feudale Politik, eine hierarchische Politik der Kontrolle, der Einwegspiegel. Sie erfordern keine Gewalt, keinen Terror oder Mord, aber sie sind dennoch Systeme einseitiger Kontrolle, bei denen die Mechanismen der Black Box unentzifferbar sind. In dieser Zukunft wird Demokratie zu einer fernen Erinnerung, weil Partizipation, Willensfreiheit, Autonomie, Handlungsfähigkeit, Entscheidungsrechte oder Grundrechte nicht mehr erforderlich sind. Stattdessen gibt es das perfekte Zusammenfließen des Bienenstocks und der notwendigen Metriken für Effizienz und Effektivität, gemessen nicht nur an den Ergebnissen in Bezug auf das Überleben, sondern im Westen – zumindest vorerst – an den Ergebnissen in Bezug auf den Gewinn und die Rentabilität der Systeme die von den Tunern verwaltet werden, den Feudalherren der algorithmischen Governance.

So sehe ich die Landschaft und die Herausforderungen der menschlichen Entwicklung. Das sind die Gedanken, die Ihre Fragen nach der Bedeutung menschlicher Entwicklung heute, den Herausforderungen und dem weiteren Weg hervorrufen. Wenn wir uns diesen Herausforderungen stellen wollen, geben wir uns genau in dieser Begegnung, in diesem Kampf und Kampf genau den Erfahrungen, Prozessen und Konflikten hin, die überhaupt der Motor der menschlichen Entwicklung sind.

Menschliche Entwicklung geschieht nicht durch Beobachtung, sondern durch Partizipation; nicht nur durch Harmonie, sondern durch Konflikte; nicht nur durch Stabilität und Zufriedenheit, sondern auch durch Instabilität, Bedrohung und Problemlösung. Diese Erfahrungen bilden die menschliche Entwicklung. Das Lustprinzip allein erfordert keine menschliche Entwicklung. Zivilisation ist das Produkt der Sublimierung – Trauer und Kampf, Unzufriedenheit und Verletzung. Genauso entwickeln wir uns nur, weil wir uns Herausforderungen und Wettbewerben stellen. So haben wir über Jahrtausende Rechtsstaatlichkeit und Menschenrechtschartas geschaffen, um Gewalt zu unterdrücken. Indem wir uns dem Konflikt stellen und ihn vorantreiben, fördern wir die menschliche Entwicklung.

Geben Sie uns einige abschließende Gedanken darüber, welche Hoffnungen Sie haben, um diese leistungsstarken digitalen Technologien und die Systeme, die sie schaffen und betreiben, zu nutzen, um Dinge anders zu machen und zu grundlegenden demokratischen Werten zurückzukehren.

Ich habe nichts als Hoffnung. Die Herausforderung des nächsten Jahrzehnts lautet: Wie gestalten wir das digitale Jahrhundert demokratiekompatibel? Wie schaffen wir ein digitales Jahrhundert und eine digitale Zukunft, die die Wünsche demokratischer Menschen erfüllen können? Erst in den letzten Jahren haben wir erkannt, dass das digitale Jahrhundert einen ganz anderen Weg geht, als wir erwartet hatten oder den wir wählen würden. Das ist die Zeit. Es ist nicht zu spät und nicht zu früh, uns dieser Herausforderung zu stellen und die erforderlichen rechtlichen Rahmenbedingungen, regulatorischen Paradigmen, neuen institutionellen Formen und die neuen Chartas der Rechte zu schaffen, die eine demokratische Governance über das Digitale durchsetzen werden. Das ist jetzt die große Arbeit. Diese große Arbeit steht im Einklang mit den Herausforderungen als sich entwickelnde Individuen. Die Entwicklung des einen kann nicht von der Entwicklung aller entfremdet werden.

Gelehrter, Schriftsteller und Aktivist Shoshana Zuboff ist Autor von drei großen Büchern, die jeweils den Beginn einer neuen Epoche in der technologischen Gesellschaft signalisierten. Ihre jüngste Arbeit, Das Zeitalter des Überwachungskapitalismus, wurde als das der Technologiebranche gefeiert Silent Spring. Zuboff ist emeritierte Charles Edward Wilson Professorin an der Harvard Business School.

Titelbild: von Baptiste Michaud über Flickr.