globale Leitplanken

Anthropic-Chef warnt UN-Sicherheitsrat vor KI-Gefahren für Menschheit

Anthropic-Chef Amodei und OpenAI-Chef Altman verlangen KI-Sicherheitsmaßnahmen. US-Präsident Trump ist gegen ein globales Kontrollsystem

New York – Führende Vertreter der Technologiebranche haben den UN-Sicherheitsrat vor den wachsenden Gefahren durch Künstliche Intelligenz (KI) gewarnt. "Wenn sie schlecht verwaltet wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit darstellen könnte", sagte der Chef des Entwicklers Anthropic, Dario Amodei, am Mittwoch vor dem 15-köpfigen Gremium. Neben Amodei sprachen OpenAI-Chef Sam Altman und der Mitbegründer von Hugging Face, Clement Delangue.

Altman forderte eine internationale Zusammenarbeit. Die wichtigsten Entscheidungen dürften nicht allein von Laboren in San Francisco getroffen werden, sondern müssten durch demokratische Prozesse gestaltet werden. Der kanadische KI-Pionier Yoshua Bengio bezeichnete die Gefahren als real und unmittelbar.

"Fördern, nicht zügeln"

Regierungen weltweit ringen um die Frage einer Aufsicht über die sich rasant entwickelnden KI-Systeme. Die USA und China als dominierende Akteure sind sich uneins darüber, ob die Technologie globale Leitplanken benötigt oder weitgehend den Marktkräften überlassen werden sollte. US-Präsident Donald Trump hatte am Dienstag vor der UN-Vollversammlung jegliche Versuche abgelehnt, ein globales Kontrollsystem für KI zu errichten. Die USA würden das Wachstum einer Technologie nicht bremsen, die größer als die Industrielle Revolution werde, sagte Trump. "Wir werden sie fördern, nicht zügeln." Das US-Justizministerium werde die Entwicklung jedoch genau beobachten.

Trump und der chinesische Präsident Xi Jinping treffen sich am Donnerstag in Washington. Sie wollen dabei über ein Meldesystem für KI-Vorfälle sprechen, die die nationale Sicherheit berühren.

UN-Generalsekretär Antonio Guterres drängt seit langem auf eine globale Regulierung der Künstlichen Intelligenz. Er warnt davor, dass die rasanten Fortschritte Risiken bergen, die nicht ignoriert werden dürften. Damit steht er im Gegensatz zu Trumps Kurs. Der UN-Sicherheitsrat hatte sich erstmals 2023 mit den Risiken von KI befasst. China hatte damals erklärt, die Technologie dürfe nicht zu einem ungezügelten Pferd werden. Die USA warnten ihrerseits vor dem Einsatz von KI zur Zensur oder Unterdrückung von Menschen. (APA, 23.9.2026)

Forum: 32 Postings

Ihre Meinung zählt.

Die Kommentare im Forum geben nicht notwendigerweise die Meinung der Redaktion wieder. Die Redaktion behält sich vor, Kommentare, welche straf- oder zivilrechtliche Normen verletzen, den guten Sitten widersprechen oder sonst dem Ansehen des Mediums zuwiderlaufen (siehe ausführliche Forenregeln), zu entfernen. Benutzer:innen können diesfalls keine Ansprüche stellen. Weiters behält sich die STANDARD Verlagsgesellschaft m.b.H. vor, Schadenersatzansprüche geltend zu machen und strafrechtlich relevante Tatbestände zur Anzeige zu bringen.