„Ergebnisse könnten extrem dystopisch sein“: OpenAI-Chef Altman warnt vor dem Ende menschlicher KI-Kontrolle
Stand: 14.09.2026, 14:04 Uhr
Kommentare
Sam Altman warnt: KI könnte außer Kontrolle geraten – und eine kleine Elite an die Macht bringen. Der OpenAI-Chef hat konkrete Forderungen.
OpenAI-CEO Sam Altman veröffentlichte über Nacht eine Reihe von Beiträgen auf X und warnte, dass die Zukunft der KI „sehr schlecht“ verlaufen könnte, falls Unternehmen es nicht schaffen, die Kontrolle über zunehmend leistungsfähige Systeme zu behalten. Er sagte, die Technologie berge Risiken, die von einer KI, die sich menschlicher Aufsicht entzieht, bis hin zu einer dystopischen Machtkonzentration reichen. Altman schrieb, die Menschheit könne „die Kontrolle über die Zukunft an die KI verlieren“ und fügte hinzu, sein Unternehmen stehe „ohne Entschuldigung auf der Seite der Menschheit, und KI muss den Menschen immer dienen“.
Content-Partnerschaft
Dieser Artikel von Ben Kelly und James Debens entstand in Kooperation mit newsweek.com
Altman sagte, Sicherheitsmaßnahmen für KI müssten mit zunehmend leistungsstarken Systemen Schritt halten, und warnte, die Technologie könne gefährlich werden, wenn Fähigkeiten schneller voranschreiten als Schutzmechanismen. Er warnte zudem vor einer Zukunft, in der ein einzelnes Unternehmen, eine Person oder ein Staat durch fortgeschrittene KI übermäßigen Einfluss erlangt. „Die Ergebnisse könnten extrem dystopisch sein“, schrieb er.
Der OpenAI-Chef rief außerdem zu gemeinsamen Industriestandards für Sicherheit, Überwachung und den Umgang mit KI-Fehlausrichtung auf und sagte, Entwickler an der technologischen Spitze sollten verantwortungsvoll handeln, während sich der Fortschritt beschleunige. Er unterstützte einen bundesstaatlichen Rahmen mit einheitlichen Sicherheitsanforderungen und erklärte, „kein Ausmaß an amerikanischem Wettbewerbsdruck“ dürfe Rücksichtslosigkeit rechtfertigen oder zulassen, dass Fähigkeiten der Ausrichtung und Überwachung davonlaufen.
Sam Altman schlägt Alarm: KI könnte außer Kontrolle geraten – und das innerhalb des nächsten Jahrzehnts
Altman sagte, der rasche Fortschritt werde anhalten, argumentierte aber, die Entwicklung müsse sorgfältiger abgestimmt werden, damit die Fähigkeiten die Schutzmechanismen nicht überholen. „KI muss den Menschen immer dienen“, schrieb er und warnte, das Vermeiden katastrophaler Ergebnisse werde von einer Zusammenarbeit zwischen Regierungen und KI-Laboren abhängen, während gleichzeitig verhindert werden müsse, dass ein einzelnes Land oder Unternehmen übermäßige Macht erlangt. Newsweek hat die Presseabteilung von OpenAI per E-Mail kontaktiert, um eine Stellungnahme Altmans zu erhalten, und wartet auf eine Antwort.
Die Warnung reiht sich in einen wachsenden Chor der Besorgnis ein, der aus der KI-Branche selbst kommt. Forschende, Führungskräfte und ehemalige Mitarbeitende in führenden KI-Laboren, darunter der frühere Anthropic-Forscher Jacob Coxon, haben zuletzt die Möglichkeit ins Spiel gebracht, dass künftige Systeme schwer zu kontrollieren sein könnten. Einige argumentieren, ein rücksichtsloser Wettlauf hin zu noch mächtigeren Modellen könne für die Menschheit katastrophale Folgen haben – sogar innerhalb des nächsten Jahrzehnts.
Coxon trat vergangene Woche bei Anthropic zurück und warf sowohl Anthropic als auch OpenAI vor, „direkt auf sich selbst verbessernde Superintelligenz zuzurasen und mit unserem Leben zu spielen“. Der ehemalige Forscher, der zuvor bei beiden Unternehmen gearbeitet hatte, warnte, dass künftige KI-Systeme mächtig genug werden könnten, um Computernetzwerke zu hacken, Ressourcen zu beschaffen und jenseits sinnvoller menschlicher Aufsicht zu agieren.
Sein ehemaliger Anthropic-Kollege Evan Hubinger, Leiter für Alignment Science, unterstützte Coxons Einschätzung nicht nur, sondern ging noch weiter, indem er sagte, viele der Menschen, die fortgeschrittene KI-Systeme entwickeln, glaubten privat, dass es eine Wahrscheinlichkeit von mehr als 10 Prozent gebe, dass die Technologie „alle Menschen töten könnte … innerhalb des nächsten Jahrzehnts“.
Seine Äußerungen lösten rasch eine breitere Debatte in der Branche aus. Der frühere OpenAI-Forscher Daniel Kokotajlo und Anthropic-CEO Dario Amodei warnten, dass das hohe Entwicklungstempo die Sicherheitsmaßnahmen überholen könnte, insbesondere da KI-Systeme zunehmend in der Lage seien, autonom zu agieren und ihre eigene Leistungsfähigkeit zu verbessern.
Trump und der US-Kongress reagieren auf KI-Warnungen
Altmans jüngste Bemerkungen positionieren ihn klar innerhalb dieser wachsenden Debatte. Zwar unterstützte er nicht die extremsten Prognosen, doch argumentierte er, dass Sicherheits-, Überwachungs- und Alignment-Bemühungen mit den Fortschritten bei den Fähigkeiten Schritt halten müssten. Er warnte, die Menschheit müsse sowohl verhindern, die Kontrolle über fortgeschrittene KI-Systeme zu verlieren, als auch vermeiden, dass die Macht über diese Systeme in den Händen einer kleinen Zahl von Unternehmen, Einzelpersonen oder Regierungen konzentriert werde.
Die zunehmende Alarmstimmung unter KI-Forschenden hat in Washington eine erneute Diskussion darüber ausgelöst, wie – oder ob – die Technologie reguliert werden sollte. Präsident Donald Trump hat die apokalyptischsten Prognosen weitgehend zurückgewiesen, argumentiert, die Sorge vor einem Aussterben der Menschheit sei übertrieben, und betont, dass die Vereinigten Staaten China im globalen KI-Wettlauf vorausbleiben müssten.
Bei einem Auftritt vor Journalistinnen und Journalisten auf seinem Golfplatz im irischen Doonbeg am Sonntag sagte Trump: „Wer auch immer KI gewinnt, gewinnt“, und fügte hinzu, „wir können Leitplanken einziehen […] aber ich glaube, es gibt viele negative Kräfte, die […] Dinge heraufbeschwören, die nicht passieren werden“. Er machte deutlich, dass die Wahrung der amerikanischen technologischen Führungsrolle weiterhin oberste Priorität seiner Regierung ist.
Rufe nach Regulierung und Sicherheitsschranken
Gleichzeitig haben einige Abgeordnete stärkere Leitplanken für die Entwicklung von Hochrisiko-KI gefordert. In einem jüngsten Interview mit CNN, auf das sich RealClearPolitics berief, schlug der Sprecher des Repräsentantenhauses, Mike Johnson, vor, dass der Kongress, das Weiße Haus und führende KI-Unternehmen zusammenkommen sollten, um Sicherheitsstandards festzulegen, da die Besorgnis über zunehmend mächtige Systeme wächst.
„Ich denke, die Führungskräfte und Anbieter all dieser Plattformen […] müssen zu einem Treffen mit uns zusammenkommen und sich zusammensetzen, um herauszufinden, wo das richtige Gleichgewicht liegt […]. Es geht um nationale Sicherheit, abgewogen mit der unmittelbaren Sicherheit, sicherzustellen, dass die Modelle sicher sind.“
König Charles’ KI-Gipfel in Schottland
Die Debatte erreicht inzwischen auch Staats- und Regierungschefs jenseits von Washington. In dieser Woche will König Charles III. auf Dumfries House in Schottland einen privaten Gipfel ausrichten, bei dem hochrangige Vertreterinnen und Vertreter einiger der einflussreichsten KI-Unternehmen der Welt zusammenkommen, darunter Repräsentierende von Nvidia und Google DeepMind.
Bei dem Treffen soll es voraussichtlich darum gehen, wie fortgeschrittene KI zum Wohle der Menschheit entwickelt werden kann, während zugleich wachsende Sorgen über Sicherheit, Aufsicht und das Tempo des technologischen Wandels adressiert werden. Eine royale Korrespondentin sagte gegenüber Politico, der König wolle „einberufen, sich einbringen, zuhören und die Debatte fördern“ über eine der bedeutendsten globalen Herausforderungen, vor denen wir stehen.
Auch wenn von dem Gipfel keine verbindlichen Vorschriften erwartet werden, könnte er dabei helfen, unter Regierungen, Technologieunternehmen und Forschenden einen Konsens über die Prinzipien zu schaffen, die die künftige KI-Entwicklung leiten sollen. Die Zusammenkunft ergänzt damit laufende Versuche, internationale Normen und Kooperationsformen im Umgang mit der Technologie zu etablieren.
Chinesische Staatszeitung attackiert Amodeis Vorstoß
Das Treffen findet zudem nur wenige Tage, nachdem Amodei dazu aufgerufen hat, die Entwicklung immer leistungsfähigerer KI-Systeme zu verlangsamen. In einem veröffentlichten Essay mit dem Titel „We Must Pace the Frontier“ argumentierte der Anthropic-CEO, KI-Unternehmen sollten das Tempo bei der Entwicklung von Frontier-Modellen drosseln, um mehr Zeit zur Bewältigung wachsender Sicherheitsrisiken zu gewinnen. Der Vorschlag wurde später von Sam Altman und Elon Musk unterstützt.
Die chinesische staatsnahe Zeitung Global Times hat Amodeis Essay seither scharf kritisiert und den Vorschlag als „Cold-War-Playbook“ beschrieben, das darauf abziele, Chinas technologischen Fortschritt einzudämmen, statt die Sicherheit zu fördern. Global Times argumentierte, das eigentliche Ziel des Vorschlags bestehe darin, Chinas KI-Entwicklung durch technologische Barrieren und Regulierung zu beschränken, die US-Dominanz bei fortgeschrittener KI zu bewahren und China von globalen Gesprächen über KI-Governance auszuschließen.
Der Leitartikel bezeichnete den Ansatz als „stillen KI-Kalten Krieg“, verurteilte ihn als „heuchlerisch und kurzsichtig“ und warnte, dass die Ausgrenzung Chinas aus der KI-Innovation die mit KI verbundenen Risiken tatsächlich erhöhen könnte, indem sie die internationale Zusammenarbeit einschränkt. Fragen der KI-Sicherheit dürften in den anstehenden US-chinesischen Gesprächen über Frontier-KI-Risiken eine Rolle spielen und könnten auch bei einem geplanten Treffen zwischen Donald Trump und Xi Jinping später in diesem Monat zur Sprache kommen.