Eine Welle von Warnungen verbirgt mehr, als sie offenbart – Hinter den Warnungen von Unternehmen wie Anthropic zeigt sich, wie unvereinbar die Regulierung der Superintelligenz mit den Erfordernissen des globalen strategischen Wettbewerbs ist.
Ein redaktioneller Beitrag von Misión Verdad
Am vergangenen 9. September veröffentlichte der 27-jährige Forscher Jacob Coxon einen Satz, der ein Paradox auf den Punkt bringt: „Heute habe ich Anthropic verlassen. Keines der beiden Unternehmen handelt verantwortungsvoll. Sie liefern sich einen direkten Wettlauf hin zu einer sich selbst verbessernden Superintelligenz und setzen dabei unser Leben aufs Spiel.“
Coxon hatte fast drei Jahre lang bei OpenAI im Bereich der Pretraining-Forschung gearbeitet und an der Entwicklung von GPT-4o und GPT-4.5 mitgewirkt, bevor er im vergangenen Juli zu Anthropic wechselte, enttäuscht von den Sicherheitsprotokollen seines früheren Arbeitgebers. Doch nur einen Monat später beschloss er, die Branche vollständig zu verlassen.
ANTHROPIC ZWISCHEN SKANDALEN UND WARNUNGEN
Die Anschuldigung ist bemerkenswert, weil sie von jemandem stammt, der den Fortschritt von innen beobachtet hat. Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic selbst, schätzte das Risiko eines Aussterbens der Menschheit innerhalb des kommenden Jahrzehnts auf mehr als 10 %, falls die Sicherheitsprobleme nicht gelöst werden.
Im vergangenen Juli hatten mehr als 1.000 Forscher und Beschäftigte der Branche, darunter Coxon selbst, OpenAI-Chefwissenschaftler Jakub Pachocki und Anthropic-CEO Dario Amodei, eine Erklärung unterstützt, die eine stärkere internationale Koordinierung auf Regierungsebene forderte, um die Entwicklung verlangsamen zu können, falls die Risiken zu stark zunehmen.
Coxons Worte fügen sich in ein Jahr beispielloser Turbulenzen für Anthropic ein. Im vergangenen Februar enthüllte The Wall Street Journal, dass das Modell Claude vom Pentagon während der Operation zur Entführung des venezolanischen Präsidenten Nicolás Maduro eingesetzt wurde, einer Mission, die Bombardierungen von Caracas und rund 100 Todesopfer umfasste. Als das Unternehmen seinen Partner Palantir um Erklärungen zur Nutzung der Software bat, interpretierte das Pentagon die Anfrage als Einwand.
Am 27. Februar ordnete US-Präsident Donald Trump allen Bundesbehörden an, die Nutzung der Technologie von Anthropic einzustellen, und Kriegsminister Pete Hegseth bezeichnete sie als „Risiko für die Lieferkette“. Die gerichtliche Reaktion folgte am 26. März und wurde im vergangenen August bestätigt, als die Bundesrichterin Rita Lin entschied, dass dieses Verbot eine rechtswidrige Vergeltungsmaßnahme gegen die verfassungsrechtlich geschützte Meinungsäußerung des Unternehmens darstellte, und die Argumente des Pentagons als „substanzlose Berufung auf die nationale Sicherheit“ zurückwies.
In den vergangenen Tagen forderte Anthropic-CEO Dario Amodei nach Coxons Äußerungen öffentlich eine Verlangsamung des Entwicklungstempos der KI. Sam Altman, Chef von OpenAI, unterstützte die Forderung, bot an, seine Systeme für externe Prüfungen zu öffnen, und kündigte an, dass sein Unternehmen in diesem Jahr nicht an die Börse gehen werde. Elon Musk erklärte, er „stimme“ dem Protest zu.
Unterdessen weisen Berichte darauf hin, dass Anthropic, das den Anschein ethischer Besorgnis erwecken will, zwar der schwarzen Liste des Pentagons entgangen ist, den Schatten von Palantir jedoch nicht abschütteln kann und ein gegen Aktivisten gerichtetes Überwachungssystem einführen soll. Einer Untersuchung von The American Prospect zufolge entwickelt dieses Unternehmen, das sich öffentlich geweigert hatte, dem Pentagon Instrumente zur Massenüberwachung bereitzustellen, ein System zur vorausschauenden Überwachung von Aktivisten, die sich gegen die rasche Entwicklung künstlicher Intelligenz (KI) stellen.
Der Leiter der Sicherheitsoperationen, Keon Ellison, bestätigte, dass Warnmeldungen des externen Unternehmens Samdesk den Führungskräften „60 entscheidende Minuten“ verschafften, um den Demonstranten auszuweichen. Die Untersuchung beschreibt diese Praxis als „Pre-Crime“, bei der Aktivismus zusammen mit Terrorismus, Kriminalität und geopolitischer Instabilität auf dieselbe Liste von Bedrohungen gesetzt wird. Die Stelle eines Analysten für Bedrohungen und Aktivismus wird mit 180.000 bis 230.000 US-Dollar jährlich vergütet, während die Wachleute in den Büros 22 US-Dollar pro Stunde erhalten.
Hinzu kommt der Skandal um das „Projekt Panama“, der von The Washington Post aufgedeckt wurde: Anthropic kaufte, digitalisierte und zerstörte physisch Millionen von Büchern, indem die Buchrücken abgeschnitten und die Exemplare anschließend dem Recycling zugeführt wurden, um Claude zu trainieren. Ein internes Dokument beschrieb die Operation unverblümt: „Wir wollen nicht, dass bekannt wird, dass wir daran arbeiten.“
Der juristische Präzedenzfall, der dies ermöglicht, stammt aus dem Jahr 2025, als Richter William Alsup unter Berufung auf die Fair-Use-Doktrin die Tür dafür öffnete, physisches Kulturerbe zum Treibstoff für Modelle zu machen. Die KI-Unternehmen argumentieren, dass ihre Trainingspraktiken durch diese Ausnahme im Urheberrecht gedeckt seien. Obwohl die Entscheidung für andere Verfahren nicht bindend war, schuf sie einen juristischen Präzedenzfall, der bei künftigen Streitigkeiten den Ausschlag zugunsten des Technologiesektors geben könnte.
VON DER KYBERNETIK ZUR SUPERINTELLIGENZ
Um das Ausmaß des Beschriebenen zu verstehen, muss die Superintelligenz ausgehend von der Kybernetik betrachtet werden, einem von Norbert Wiener 1948 eingeführten Begriff zur Bezeichnung der Wissenschaft von Steuerung und Kommunikation in komplexen Systemen. Als grundlegendes Konzept zeichnet die Kybernetik eine Zukunft vor, in der algorithmische Rückkopplungsschleifen nicht nur Prozesse optimieren, sondern autonome Entscheidungen treffen, die die materielle Realität neu gestalten.
Die Superintelligenz treibt diese Logik auf die Spitze, indem sie ein System entwickelt, das Informationen nicht nur verarbeitet, sondern sich selbst umschreibt und dadurch seine eigene Entwicklung rekursiv beschleunigt. Coxon warnte, dass diese Systeme bald „in der Lage sein werden, alles zu hacken, jedes Gebiet über Nacht zu revolutionieren und reale Macht und Ressourcen zu erlangen“.
Die Auswirkungen sind ambivalent. Wirtschaftlich besteht das Versprechen in einem Produktivitätssprung, der menschliche Arbeit von mechanischen Aufgaben befreit. Das Risiko liegt in der monopolistischen Konzentration einer Technologie, die, wie die päpstliche Enzyklika Magnifica Humanitas warnt, zur Vernichtung von Arbeitsplätzen und zum Verlust der Würde der Arbeit angesichts des technokratischen Effizienzparadigmas führen kann.
Das Dokument warnt darüber hinaus vor der wachsenden globalen Ungleichheit und prangert die ökologischen Kosten sowie die Ausbeutung im Zusammenhang mit Hardware und dem Energieverbrauch von Rechenzentren an. Es fordert daher, Profit und technologische Innovationen dem Gemeinwohl und menschenwürdiger Arbeit unterzuordnen.
Politisch besteht die unmittelbarste Gefahr in der Überwachung, denn Entwicklungen wie gegen Aktivisten gerichtete Überwachungssysteme würden die Kybernetik in eine Technologie sozialer Disziplinierung verwandeln. Die Fähigkeit dieser Systeme, jedes Gebiet zu „hacken“, wie Coxon warnt, bedeutet eine strukturelle Verwundbarkeit demokratischer Institutionen gegenüber nicht gewählten privaten Akteuren.
Die Dystopie besteht nicht ausschließlich in einem Szenario physischer Vernichtung durch eine militarisierte KI. Im zivilen Bereich würde vielmehr die stille Unterordnung des menschlichen Willens unter undurchsichtige algorithmische Logiken vorherrschen.
Im kulturellen Bereich würde eine Homogenisierung dieser Dimension bei gleichzeitiger präventiver Neutralisierung von Dissens die menschliche Teilhabe neu definieren und die gesellschaftliche Komplexität auf berechenbare Variablen reduzieren.
Andererseits veranschaulicht die Zerstörung physischer Bücher ein Paradox, bei dem das System, um die Welt zu „verstehen“, ihr materielles Gedächtnis verschlingt. Die Kybernetik verspricht Optimierung. Ihr Schatten ist eine Gesellschaft, die von Rückkopplungsschleifen beherrscht wird, die kein Bürger entworfen hat oder kontrolliert.
Coxons Warnung in seiner Rücktrittserklärung, man setze „unser Leben aufs Spiel“, verweist genau auf eine strukturelle Falle, in der diejenigen Akteure, die die Entwicklung der Superintelligenz vorantreiben, zugleich systematisch die Mechanismen zur Rechenschaftslegung über ihr eigenes Handeln abbauen.
WETTBEWERB, RIVALITÄTEN UND EINE BLASE KURZ VOR DEM PLATZEN
Während in den Vereinigten Staaten intern zwischen der Fassade ethischer Regulierung und den Forderungen des militärisch-industriellen Komplexes gerungen wird, hat China eine Strategie der zivil-militärischen Integration ohne dieselben unternehmerischen Beschränkungen gewählt, die seine Entwicklung bei autonomen Drohnen, intelligenten Marinewaffen und Erkennungssystemen beschleunigt.
Der chinesische Weg weist andere Merkmale auf als der US-amerikanische. Im Bereich der KI zeigt der Stanford-Index von 2025, dass die Leistungsunterschiede bei Benchmarks wie MMLU, MMMU, MATH und HumanEval bei 17,5, 13,5, 24,3 beziehungsweise 31,6 Prozentpunkten lagen. Bis Ende 2024 hatten sich diese Abstände erheblich auf 0,3, 8,1, 1,6 beziehungsweise 3,7 Prozentpunkte verringert.
China bringt jährlich zwischen 3 und 4,7 Millionen Absolventen in den Bereichen Wissenschaft, Technologie, Ingenieurwesen und Mathematik (STEM) hervor, mehr als achtmal so viele wie die Vereinigten Staaten, und seine Ausgaben für Forschung und Entwicklung haben die der USA übertroffen. Die chinesische Strategie verbindet diesen Umfang mit einer tiefgreifenden Integration in industrielle und kommerzielle Anwendungen, wodurch das Land einen asymmetrischen Vorteil bei der praktischen Einführung erhält.
Coxon bezeichnete ausdrücklich die „Rivalität“ zwischen Anthropic und OpenAI sowie den Druck, gegenüber chinesischen Entwicklern die Führung zu behaupten, als entscheidende Faktoren dafür, dass Sicherheitsmaßnahmen vernachlässigt wurden. Das heißt, der strategische Wettbewerb zwischen den Vereinigten Staaten und China prägt die Richtung und Geschwindigkeit dieser Facette der technologischen Entwicklung maßgeblich.
Diese Daten sind keineswegs unbedeutend. Tatsächlich konkurrieren Anthropic und OpenAI um millionenschwere Verträge des US-Kriegsministeriums, ein Wettbewerb, an dem auch xAI von Elon Musk und Google beteiligt sind. Ein weiterer Punkt ist jedoch, dass das große Sprachmodell (LLM) Kimi K3 von Moonshot aus China frei zugänglich und kostengünstiger ist. Zudem unterliegt es keiner Aufsicht und Kontrolle.
Es handelt sich um eine Technologie, die ungefähr so leistungsfähig ist wie Fable von Anthropic, ein proprietäres Modell, das die US-Regierung behandelt, als wäre es praktisch eine Atomwaffe. Dies stellt einen schweren Schlag für den regulatorischen Rahmen der KI in den Vereinigten Staaten dar.
Die Welle von Erklärungen deutet darauf hin, dass diese Unternehmen nach stärkerem regulatorischem Schutz, Privilegien und öffentlichen Geldern suchen, um sich inmitten der KI-Blase, deren versteckte Verschuldung bereits bei 1,8 Billionen US-Dollar liegt, Handlungsspielraum zu verschaffen und ihr Oligopol vor chinesischen Open-Source-Modellen zu schützen.
Die proprietären US-Systeme könnten an die Grenzen der Rechenkapazität, der Stromerzeugung und der Skalierbarkeit von LLMs stoßen. Sollte dies offensichtlich werden, könnte dies eine eskalierende Panik und eine Flucht öffentlicher und privater Investoren auslösen, die die Blase zum Platzen bringt.
In diesem Szenario würden die großen Vermögensverwalter, Eigentümer und Banken Mehrheitsbeteiligungen an den Unternehmen erhalten und die Kontrolle übernehmen. Der Zyklus der Subprime-Hypotheken, der die Krise von 2008 auslöste, würde sich wiederholen: Gewöhnliche Bürger bezahlten für die Investitionen und Gebühren, anschließend wurde eine Krise herbeigeführt, und die einfachen Bürger wurden aus dem System gedrängt.
Die KI-Unternehmen treten als Verteidiger der Ethik auf, spielen jedoch zugleich eine entscheidende Rolle im Kampf um die globale Hegemonie, sowohl als Anbieter militärischer Anwendungen als auch als zentrale Akteure bei der Konzentration von Kapital. Deshalb beschreibt die Formulierung, „Leben aufs Spiel zu setzen“, ein systemisches Dilemma, bei dem es im Wettlauf um die Superintelligenz nicht nur um technologische Fähigkeiten geht, sondern auch darum, wer das Recht hat zu definieren, was „verantwortungsvoll“ ist und wofür.
Misión Verdad, eine Gruppe unabhängiger Forscher, die sich der Analyse des Kriegsprozesses gegen Venezuela und seiner globalen Auswirkungen widmen.
Quelle: https://misionverdad.com/mas-alla-de-los-riesgos-de-la-superinteligencia-artificial
Aus dem Spanischen übersetzt durch Berlin 24/7.
Titelbild: Symbolische Darstellung des US-amerikanischen KI-Unternehmens Anthropic (Illustration).
Quelle: KI-generierte Illustration / OpenAI.
Disclaimer: Berlin 24/7 bemüht sich um ein breites Meinungsspektrum. Gastbeiträge und Meinungsartikel
müssen nicht die Sichtweise der Redaktion Berlin 24/7 widerspiegeln. Wir bemühen uns, unterschiedliche
Sichtweisen von verschiedenen Autoren – auch zu den gleichen oder ähnlichen Themen – abzubilden, um
weitere Betrachtungsweisen darzustellen oder zu eröffnen.
BERLIN24/7 Nachrichten aus Berlin – ist ein unabhängiges Nachrichten- und Informationsportal Im Zentrum
unserer Berichterstattung stehen Nachrichten, Meinungsbeiträge, Analysen und Interviews zum aktuellen
Zeitgeschehen in Berlin, Deutschland, Europa und der Welt. Wer sich für differenzierte Sichtweisen aus
verschiedenen Perspektiven interessiert ist bei uns richtig. Um nichts zu verpassten abonnieren Sie unseren
Kanal und/oder folgen Sie uns auf:
Offizielle Webseite: https://berlin247.net Facebook: https://www.facebook.com/profile.php?
id=61556336081860 Telegram: https://t.me/Berlin247nachrichten Auf X – https://x.com/berlin24_7?
t=u9fTHoOcZQkCZPewM2Q62g&s=09
Hier können Sie unsere Arbeit unterstützen:
Paypal: https://paypal.me/berlin247net oder Berlin 24/7 GmbH DE22 8105 0555 0101 0400 24
