# taz.de -- Künstliche Intelligenz: Trump vereinbart mit KI-Firmen Selbstkontrolle
       
       > Weltweit wird über Gefahren durch KI diskutiert. Trump sagt nach einem
       > Treffen mit Branchen-Chefs, dass die Unternehmen sich gegenseitig
       > kontrollieren sollen.
       
 (IMG) Bild: Regelt ihr selbst, richtig?
       
       dpa | US-Präsident Donald Trump will trotz Warnungen vor [1][existenziellen
       Risiken Künstlicher Intelligenz] die Aufsicht über die Technologie ihren
       Entwicklern selbst überlassen. Die Unternehmen würden sich selber
       kontrollieren, sagte Trump nach einem Treffen mit Chefs von KI-Unternehmen
       in Washington. Er sieht ausreichenden Schutz durch wirtschaftliche
       Interessen der US-Firmen. „Ihre Unternehmen stehen auf dem Spiel, wenn
       etwas schiefgeht“, sagte der Präsident. „Sie werden das nicht zulassen.“
       Die Unternehmen würden „sich gegenseitig kontrollieren“.
       
       Zuletzt hatten [2][eigenständige Hacking-Attacken durch KI-Modelle] die
       Sorgen um Gefahren Künstlicher Intelligenz hochkochen lassen. Einige
       Branchenvertreter selbst warnten, man könne nicht ganz ausschließen, dass
       KI in der Zukunft die Menschheit auslösche.
       
       Der Chef der KI-Firma Anthropic, Dario Amodei, hatte sich dafür
       ausgesprochen, die Entwicklung der leistungsfähigsten KI-Modelle
       abzubremsen, um sicherzugehen, dass man nicht die Kontrolle über die
       Technologie verliert. Trump hatte bereits zuvor eine verstärkte staatliche
       Regulierung der Technologie abgelehnt. Es sei wichtig, dass die USA den
       Vorsprung zu China nicht einbüßten, betont er.
       
       Amodei sagte nach dem Treffen mit Trump, KI habe großes Potenzial – „aber
       auch sehr reale Risiken“. Maßnahmen, um diesen Risiken entgegenzuwirken,
       seien „noch in der Diskussion“.
       
       ## Freiwillige Selbstverpflichtung
       
       Jetzt wurde bei dem Treffen in einer Selbstverpflichtung eine Reihe von
       Grundsätzen vereinbart, zu denen „robuste interne Kontrollen“ gehören, wie
       aus dem von Trump veröffentlichten Dokument hervorgeht. Dies solle unter
       anderem Biowaffen- und Chemiewaffen-Risiken ausräumen – und auch dafür
       sorgen, dass es keine Hacking-Attacken gebe.
       
       Darüber hinaus erklärten sich die Unternehmen bereit, externe Beobachter
       zuzulassen. Das entspricht einer Idee, die Amodei vor einigen Wochen
       vorstellte, und die unter anderem von seinem Konkurrenten Sam Altman beim
       ChatGPT-Entwickler OpenAI sowie Tech-Milliardär Elon Musk unterstützt
       wurde. Die Verwaltungsräte der KI-Firmen – die in etwa den deutschen
       Aufsichtsräten entsprechen – sollen zudem gesonderte unabhängige Gremien
       einrichten, die interne und externe Berichte prüfen.
       
       „Mit der Zeit könnte es Sinn ergeben, diese Schritte in Gesetzen oder
       Regeln festzuhalten“, hieß es in dem Dokument auch. Das Papier wurde unter
       anderem von Amodei, Musk, Facebook-Gründer Mark Zuckerberg, Google-Chef
       Sundar Pichai sowie dem Chef des KI-Chip-Spezialisten Nvidia, Jensen Huang,
       unterzeichnet.
       
       ## OpenAI setzt auf KI-Agenten
       
       Für [3][OpenAI] unterzeichnete das Papier Altmans rechte Hand, der
       Top-Manager Greg Brockman. Der Firmenchef konnte nicht zu dem recht
       kurzfristig angesetzten Treffen nach Washington kommen, weil er auf der
       jährlichen Entwicklerkonferenz von OpenAI in San Francisco auftrat. Er
       stellte dort unter dem Namen „Dots“ (Punkte) sogenannte KI-Agenten vor, die
       eigenständig Aufgaben im Auftrag der Nutzer erfüllen können. Ein Dot könne
       am Computer praktisch alles machen, „was man sich einfallen lassen kann“.
       Nach dem Start in den USA sollen Dots „bald“ auch in Europa verfügbar sein,
       hieß es.
       
       Zunächst bekommt man nur einen Dot pro Nutzer – aber mit der Zeit solle
       eine Vielzahl solcher Agenten für die Nutzer im Einsatz sein. Kommuniziert
       mit der Software wird über einen Chat. Für einzelne Wissensbereiche in
       Unternehmen – etwa Buchhaltung, Marketing oder Rechtsfragen – soll es
       spezialisierte Dots geben. Zunächst sind Dot-Assistenten nur hinter
       Abo-Schranken nutzbar, was ihre Verbreitung zunächst vor allem auf den
       Berufsalltag beschränken dürfte. „Aber sie sollten davon ausgehen, dass wir
       eines Tages etwas im Massenmarkt für Milliarden Menschen machen.“
       
       ## Meta will mit KI für Verbraucher punkten
       
       Meta hatte erst vor wenigen Wochen einen ähnlich funktionierenden
       KI-Assistenten mit dem Namen Muse zunächst in den USA gestartet, der auf
       Verbraucher ausgerichtet ist. Die Muse-App erklomm danach die
       Spitzenposition im US-App-Store von Apple, und Meta wurde an der Wall
       Street nach Milliarden-Investitionen in KI-Infrastruktur wieder als ein
       aussichtsreicher Anwärter im Wettbewerb um eine führende Rolle bei
       Künstlicher Intelligenz gesehen. ChatGPT hatte den Hype um Künstliche
       Intelligenz erst ausgelöst, bei dem neuesten KI-Assistenten für Verbraucher
       kam Meta dem Vorreiter aber zuvor. Altman sagte indes, Dots sei „allem, was
       heute auf dem Markt verfügbar ist, weit voraus“.
       
       Im Prinzip könnten auch Verbraucher Dots schon jetzt für Alltagsdinge
       benutzen, sagte OpenAI-Manager Alexander Embiricos der Deutschen
       Presse-Agentur. Aber damit würden sie nicht die wirklichen Vorteile der
       Software nutzen, schränkte er ein. Dots sei eher für ambitionierte Aufgaben
       optimiert, um mehr zu machen, als man sich selbst zugetraut hat.
       
       30 Sep 2026
       
       ## LINKS
       
 (DIR) [1] /Fast-Militaervorfall-USA-China/!6214745
 (DIR) [2] /Welle-der-KI-Furcht/!6208375
 (DIR) [3] /OpenAI-macht-weitere-KI-Probleme-oeffentlich/!6214076
       
       ## TAGS
       
 (DIR) Big Tech
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Schwerpunkt USA unter Trump
 (DIR) Regulierung
 (DIR) GNS
 (DIR) Kolumne Starke Gefühle
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Anthropics Ablenkungsmanöver: Ja, KI wird uns alle töten. Aber anders, als ihr denkt
       
       Die Tech Bros behaupten, dass die KI die Menschheit auslöschen könnte. So
       eine lächerliche Behauptung! Die Bedrohung ist viel unmittelbarer.
       
 (DIR) KI macht wieder Sachen: Ein „Ausbruch“ auf Bestellung
       
       Kein Internetzugang? Von wegen. OpenAI hat neue Sicherheitsprobleme
       öffentlich gemacht. Aber wer ist eigentlich verantwortlich?
       
 (DIR) Verleihung des Axel-Springer-Awards: Peter Thiel, der Linkenversteher
       
       Bei der Springer-Preisverleihung zeigt Investor Peter Thiel Verständnis für
       den Wahlsieg der Linken in Berlin. Absurdes und Gruseliges liegen an diesem
       Abend nah beieinander.
       
 (DIR) 81. UN-Generalversammlung in New York: Kriege und KI im Fokus des UN-Gipfels
       
       Bei der jährlichen UN-Vollversammlung stehen wieder aktuelle Krisen und
       Herausforderungen im Mittelpunkt, echte Durchbrüche sind nicht zu erwarten.