Am 16. September hat UN-Generalsekretär António Guterres angesichts der Risiken durch künstliche Intelligenz zur internationalen Zusammenarbeit aufgerufen. Wenige Tage zuvor hatten die Geschäftsführer führender US-Technologieunternehmen davor gewarnt, die KI-Entwicklung zu verlangsamen, da diese Technologie außer Kontrolle zu geraten droht.
Besorgniserregendes Entwicklungstempo
In einem Blogeintrag vom 12. September hat der Chef des KI-Entwicklers Anthropic, Dario Amodei, davor gewarnt, dass bösartige KI-Schwärme innerhalb des nächsten Jahres das gesamte Internet lahmlegen könnten. Zugleich rief er seine Branche zu einer koordinierten Drosselung des bisherigen Entwicklungstempos auf. Unterstützung erhielt Amodei von Sam Altman, Chef von OpenAI, und Elon Musk, dem Chef von SpaceX.
Seit Ende 2025 sind Cyberangriffe durch KI-Agenten immer raffinierter geworden. Der Angriff auf die Datenbank von Hugging Face im Juli 2026 war ein Warnsignal. Denn diese KI-Agenten haben den Großteil der Kampagne eigenständig und mit einer Geschwindigkeit durchgeführt, mit der menschliche Hacker nicht mehr mithalten konnten. Dazu der ehemalige US-Kongressabgeordnete Brad Carson:
„Es geht jetzt so schnell, dass die Forschenden selbst überrascht werden. Das haben wir in den letzten zwei oder drei Wochen gesehen. Es sind Leute, die an Firmen arbeiten und interne Warnungen gegeben haben. Sie haben gesagt, was sie machen, könnte katastrophale Schäden verursachen. Ich denke, wir müssen ihre Meinungen ernst nehmen.“
Neben dem extrem raschen Fortschritt der KI verstärkt ein weiterer Aspekt die Sorge vor KI-Risiken: die mangelnde Kontrolle über die Technologiekonzerne selbst, die Milliarden US-Dollar in die Entwicklung bahnbrechender KI-Modelle investieren. Die Vizedirektorin für Neue Technologien und Industriepraxis am britischen Ada Lovelace Institute, Marta Ziosi, meint:
„Ich denke, was mich gerade besorgt und wahrscheinlich auch von diesen Sorgen um Aussterben der Menschheit geäußert wird, ist, dass die Firmen momentan sehr viel Macht haben, und dass sie nicht wirklich für ihre Praktiken festgehalten werden. Und ich denke, das macht einen „perfekten Sturm“, also das Zusammentreffen mehrerer Risikofaktoren. Das ist wirklich besorgniserregend.“
Geopolitische Konkurrenz
Die von der KI ausgehenden Risiken erfordern einen bindenden, streng überwachten und unabhängigen globalen Governance-Mechanismus. Jedoch ist die Frage der „KI-Verlangsamung“ nicht nur eine technologische oder menschliche Frage, sondern nimmt auch zunehmend Faktoren der geopolitischen Konkurrenz an. In der vergangenen Woche haben hochrangige US-Beamte, darunter US-Präsident Donald Trump, Besorgnis um KI-Risiken zurückgewiesen. Ihnen zufolge sollen die USA derzeit ihre führende Rolle in dieser strategischen Technologie beibehalten.
Stuart Russell, Präsident der Internationalen Vereinigung für sichere und ethische KI und Professor für Informatik an der Universität von Berkeley in den USA, war der Meinung, dass KI-Risiken keine Grenzen hätten. Argumente, dass eine von einem Land entwickelte KI „besser“ als die eines anderen Landes sei, sei „seltsam“, so Stuart Russell weiter:
„Ein regulärer Aspekt dazu, wenn wir uns darum sorgen, ob KI-Systeme Risiken für das Aussterben der Menschheit verursachen, können sie von überall herkommen. Natürlich überschreiten sie die Grenzen. Deshalb brauchen wir internationale Vereinbarungen, um sicherzustellen, dass alle Staaten die notwendigen Kontrollmechanismen etablieren, um ein solches Szenario zu verhindern.“
Die Frage ist: Wie sollte ein Rechtsrahmen gestaltet sein und von welcher Institution geschaffen werden? Denn die Ereignisse von 2025 und Anfang 2026 haben gezeigt, dass die Frage nicht mehr lautet, ob KI die globale Ordnung neu gestalten wird, sondern wie schnell und wer die Regeln schreiben wird. Der technologische Wettbewerb zählt derzeit zum globalen geopolitischen Wettbewerb zwischen den Großmächten. Denn alle Großmächte betrachten die KI-Dominanz als Schlüsselfaktor für ihre nationale Sicherheit und ihre künftige wirtschaftliche Vormachtstellung.
