Der technokratische Angriff der künstlichen Intelligenz
Die künstliche Intelligenz (KI) erlebt einen triumphalen Moment. Seit 2022 haben sich neue Technologien, insbesondere generative Modelle wie ChatGPT, in beispielloser Geschwindigkeit verbreitet. Der gesamte IT-Bereich ist in Bewegung, um diese Innovation zu unterstützen. Ähnlich wie die Spekulationsblasen der 2000er und 2012er Jahre hat der Technologiesprung einen unaufhaltsamen Wettlauf ausgelöst, sowohl in Bezug auf Narrative als auch auf finanzielle Wetten und geoökonomische Ambitionen. Einige sehen eine prometheische „Superintelligenz“ und unaufhaltsamen Fortschritt, während andere vor Börsenabstürzen und der Auslöschung der Menschheit warnen. Wieder andere sehen Desillusionierung und ein Scheitern der effektiven Intelligenz und der wirtschaftlichen Produktivität.
Sechs methodische Komponenten
Inmitten dieses Wettstreits hat der chinesische Fortschritt mit DeepSeek Anfang 2025 einen Wettlauf reaktiviert, der drei Jahre zuvor von dem US-amerikanischen Einhorn OpenAI gestartet wurde. Dieses Durcheinander und die damit verbundene Wahrnehmungsverwirrung verbergen jedoch einen viel stilleren und strukturelleren Prozess, der sich im Bereich der künstlichen Intelligenz und der Governance entwickelt. Der aktuelle Aufschwung der KI beschleunigt die Schaffung einer globalen Technostruktur, deren Teile strategisch platziert werden.
Dieser Prozess ist in den letzten Jahren in der Wissenschaft sowie in zahlreichen zivilgesellschaftlichen oder multilateralen Initiativen, die ihre Forschung im Bereich KI und Governance vervielfachen, deutlicher geworden. Die behandelten Themen umfassen explizit vier Hauptbereiche, die alle aus der Perspektive der emanzipatorischen Transformationen untersucht werden, die die KI bietet: Ethik, Formulierung und Gestaltung öffentlicher Politiken, Entscheidungsfindung durch digitale Modellierung realer Systeme und Optimierung der Ressourcenallokation. Diese Fortschritte speisen bereits institutionelle Projekte und konkrete Praktiken. Sie werden jedoch in voneinander getrennten Bereichen behandelt, was die Möglichkeit, einen Gesamtüberblick zu erstellen, einschränkt. Während jeder einzelne Beitrag auf den ersten Blick frei von bösen Absichten erscheint, offenbart seine Gesamtperspektive jedoch eine sehr unterschiedliche Ausrichtung.
Der rote Faden, der diese verschiedenen Arbeiten und Initiativen verbindet, führt in der Tat zur Entwicklung einer Technostruktur der Governance, die auf der Automatisierung der menschlichen Debatte und ihrem Ausschluss aus den traditionellen Mechanismen der Regulierung und politischen Kontrolle basiert. Es können sechs große methodische Komponenten identifiziert werden, die mit den oben genannten Forschungsbereichen übereinstimmen:
- Die Modellierung natürlicher und menschlicher Systeme mithilfe digitaler Zwillinge.
- Die Automatisierung des moralischen und ethischen Schiedsverfahrens.
- Die Gestaltung von Normen und Gesetzen.
- Die Anwendung von Vorschriften mithilfe einer computergestützten Infrastruktur.
- Das adaptive Feedback der Technostruktur.
- Die Verhaltens- und kognitive Modellierung der Gesellschaft.
Digitale Zwillinge
Die Modellierung natürlicher und menschlicher Systeme mithilfe digitaler Zwillinge. Dieser erste methodische Baustein basiert auf der Darstellung des Funktionierens der Gesellschaft in einem digitalen Modell. Der „digitale Zwilling“ der Realität besteht darin, einen virtuellen Spiegel der realen Welt oder eines sozialen Subsystems im Computer zu erstellen. Zu den veröffentlichten wissenschaftlichen Untersuchungen gehören fünf große Modellierungsbereiche: Landwirtschaft, Gesundheit, städtische Infrastruktur, Energie und Ökosysteme.
Die Vereinten Nationen haben diesen Ansatz seit 2022 in ihre Agenda aufgenommen. Der „Aktionsplan für einen nachhaltigen Planeten im digitalen Zeitalter“ schlägt planetare digitale Zwillinge vor, die in der Lage sind, die Gesundheit der Biosphäre des Planeten und ihre Interaktionen mit sozialen und wirtschaftlichen Systemen zu messen, zu überwachen und zu modellieren. Im selben Jahr 2022 dokumentierte die UN-Institution institutionelle KI-Modelle, die in der Lage sind, die digitalen Zwillinge weltweit zu erweitern. Im Bereich der Präzisionslandwirtschaft erstrecken sich die entwickelten Modelle von der geografischen Region bis zur auf dem bewirtschafteten Feld angebauten Pflanze. Im Bereich der Gesundheit simuliert der Zwilling den Stoffwechsel einer ganzen Bevölkerung und der Individuen, aus denen sie besteht. In der städtischen Umgebung simulieren die Modelle den Energieverbrauch, den Stadtverkehr und das Sozialverhalten.
Das offizielle Ziel des digitalen Zwillingsansatzes ist es, die öffentliche Verwaltung effizienter und effektiver zu gestalten. KI ist dann ein neues Instrument zur Unterstützung der Entscheidungsfindung. Sie ermöglicht es, „kausale Anfragen durch Interventionsanalyse“ zu beantworten und „die Gestaltung evidenzbasierter öffentlicher Politiken zu verbessern“. Die Modellierung, wie sie in diesen Initiativen vorgeschlagen wird, impliziert jedoch die Etablierung einer neuen Repräsentationsebene, die zwischen Gesellschaft und Realität liegt. Modellieren, um besser zu entscheiden, führt dazu, dass die Urteilsfähigkeit und die Entscheidungsfindung, die früher durch kollektive Debatten und die Meinung von Experten ermöglicht wurden, auf diese Ebene und auf Computersimulatoren übertragen werden. Auf diese Weise wird das menschliche Eingreifen nach der Rechenleistung, die das digitale Modell darstellt, in den Hintergrund gedrängt.
Diese modellbasierten Ansätze werden derzeit auf globaler und europäischer Ebene gefördert. Sie umfassen verschiedene Formen der technokratischen Koordination, die von institutionellen Artikulationen über Ökosysteme digitaler Zwillinge bis hin zur Suche nach einem gemeinsamen methodischen Rahmen reichen.
Automatisierung des ethischen Urteilsvermögens
Dieses zweite Forschungsfeld impliziert das Eingreifen des Computers in die moralische Debatte. Es geht darum, die Ethik in die Maschine zu programmieren und jede potenzielle menschliche Handlung einem Schiedsverfahren zu unterziehen, das in einem bestimmten Bezugsrahmen definiert ist. So kann jede Handlung, die von einem computergestützten System abgeleitet wird, durch die Simulation einer Art „moralischen Gewissens“ ausgelöst werden, das im Computer transkribiert wird und in der Lage ist, die ethischen Dilemmata zu berücksichtigen, die jeder Wahl in einem sozialen System innewohnen.
Für Wissenschaftler muss die in den Computer integrierte Ethik in der Lage sein, „eine Wende zu vollziehen“, um über die Einzelfälle hinauszugehen und das soziotechnische System als Ganzes zu erfassen. Anstatt einen Algorithmus anzupassen, um ihn „gerechter“ zu machen, oder ihn sogar mit einer menschlichen Überwachungsstufe zu kombinieren, wird empfohlen, die Ethik als separate Schicht in die Computerinfrastruktur einzufügen. Mit anderen Worten, die Ethik wird in das Computersystem codiert, als wäre sie eine von dem Betriebssystem unabhängige Softwareschicht. Dieser Ansatz impliziert die Verlagerung der Anwendung moralischer Referenzen, die in der Regel vor und nach jeder kollektiven Wahl liegen, auf die Datenerfassungs-, Modellierungs-, Integrations- und Überwachungsphasen der Systeme. Hier finden wir einen Ausschlussmechanismus, der dem des vorherigen Punkts ähnelt.
Dieser Ansatz ist bereits Gegenstand konkreter Experimente. Ein „ethischer Denker“ wurde entwickelt, um ethische Schiedsverfahren in Echtzeit zu erbringen, je nach den Variablen, die einen bestimmten sozialen Kontext charakterisieren. Der Prototyp erzeugt eine Kombination aus formalen Regeln, die sich aus der Philosophie oder dem Recht ableiten, mit computergestützter statistischer Argumentation. Ein zweiter Ansatz wird entwickelt, der auf der Methodik des „Multi-Objective Reinforcement Learning“ basiert, die es ermöglicht, explizite ethische Einschränkungen in die KI einzubauen. Diese Prozesse konstruieren letztendlich Computersysteme, die in der Lage sind, als „automatisierte ethische Schiedsrichter“ zu fungieren und die von anderen KI-Systemen in Betracht gezogenen Optionen vergleichend zu bewerten. Ein erster normativer Ansatz wurde implementiert, um diese Agenda zu starten. Die Konferenzen über KI, Ethik und Gesellschaft (AAAI/ACM) erstellen so Referenzen für den Anwendungsrahmen einer technischen Ethik. Parallel dazu hat die Sustainable AI Coalition Richtlinien für das Handeln mit einer Ethik „von der Konzeption“ erarbeitet.
Es ist bemerkenswert, dass der Bruch in den Beziehungen zwischen Ethik und Gesellschaft in diesen Arbeiten nicht explizit erwähnt wird. Die moralische Dimension wird implizit zu einer logischen Schicht des Computersystems, was eine Substanzreduzierung der menschlichen Ethik bedeutet.
Fazit
Diese Entwicklung der KI und ihrer Anwendungsmethoden deutet auf einen tiefgreifenden Wandel in der Art und Weise hin, wie wir Gesellschaft und Politik verstehen und gestalten. Die Gefahr liegt nicht nur in der Technologie selbst, sondern in der Art und Weise, wie sie eingesetzt wird, um menschliche Entscheidungen zu automatisieren und traditionelle Formen der Governance zu untergraben. Es ist entscheidend, sich dieser Entwicklung bewusst zu sein und sich aktiv mit den ethischen, sozialen und politischen Implikationen auseinanderzusetzen, um eine Zukunft zu gestalten, in der KI dem Wohle der Menschheit dient und nicht zur Verstärkung von Machtungleichgewichten und zur Einschränkung der Freiheit führt.
