KI-Bremse: Labore dafür, Politik dagegen

Am Samstag hat Dario Amodei in seinem Essay "We must pace the frontier" gefordert, das Tempo der KI-Entwicklung zu drosseln, und externe Prüfer bei Anthropic zugesagt. Was im Plan steht, haben wir in Amodei will das KI-Tempo drosseln, Altman auch zusammengefasst. Zwei Tage später ist das Bild klarer: Die Labore stimmen zu, die Politik in Washington, Peking und Berlin eher nicht, und die Börsen haben nervös reagiert.

Zustimmung aus der Branche

Nach Altman und Musk hat sich auch Google DeepMind geäußert. Demis Hassabis schrieb am 12.09. auf X, laut ANI: "Dario's essay points towards the right path forward. The details need working through, but the direction is correct for meeting this critical moment."

Microsoft-Chef Satya Nadella begrüßte am 13.09. auf X "deliberate pacing" und die Idee der eingebetteten Prüfer, wie Unite.AI den Post wiedergibt. Er setzt aber eigene Akzente: Die Aufsicht dürfe nicht in der Hand weniger Firmen liegen, und es brauche ein Umfeld, in dem geschlossene und offene Modelle nebeneinander bestehen. Konkret hat Microsoft am 14.09. einen Code of Conduct für seine MAI-Modelle veröffentlicht, der sechs Wochen lang öffentlich kommentiert werden kann. Die Modelle sollen sich nie gegen Unterbrechung oder Abschaltung wehren.

Von Meta und Mistral haben wir bis Redaktionsschluss keine Stellungnahme gefunden.

Ablehnung aus der Politik

US-Präsident Donald Trump spielte die Warnungen am Sonntag in Irland herunter. Laut AP sagte er: "We can put guardrails, we can do this and that, but I think you have a lot of negative forces that are bringing it up that... shouldn't be bringing it up, and they're bringing up things that won't happen." Die USA lägen vor China, und "whoever wins AI wins". House-Speaker Mike Johnson will zwar "some guardrails", aber den Vorsprung vor China nicht verlieren und die Branchenchefs zu einem gemeinsamen Treffen holen.

China reagierte auf Amodeis Forderung nach strengeren Chip-Exportkontrollen. Außenamtssprecher Guo Jiakun sagte am Montag laut AP: "Fearmongering, confrontation and vicious competition will only disrupt the process of global AI governance which serves no one's interest."

Auch die Bundesregierung ist skeptisch. Ein Sprecher des Digitalministeriums sagte laut der Nachrichtenagentur dts: "Das sehen wir für Europa als nicht gangbaren Weg." Man nehme die Warnungen aber "sehr ernst", baue das nationale KI-Sicherheitsinstitut auf und setze auf eine globale KI-Aufsicht. Eine Reaktion der EU-Kommission auf den Essay haben wir nicht gefunden.

Börsen und Forschung

In Asien gaben KI-nahe Aktien am Montag nach. Laut heise, das sich auf Reuters stützt, fiel der OpenAI-Investor SoftBank zeitweise um mehr als 13 Prozent, Kioxia um fast 10 Prozent, SK Hynix und Samsung um mehrere Prozent. Reuters nennt allerdings auch die Lage im Nahen Osten als Grund.

Deutsche KI-Forscher sehen den Vorstoß gegenüber dem Science Media Center gemischt. Jonas Geiping vom Max-Planck-Institut für Intelligente Systeme findet die unabhängigen Prüfstellen sinnvoll. Thilo Hagendorff von der Universität Stuttgart hält die Richtung für richtig, zweifelt aber an der Umsetzung, weil ein Wettrüsten mit China und eine koordinierte Verlangsamung schlecht zusammenpassen. Philipp Hennig von der Universität Tübingen nennt die Bitte um "demokratische und globale Koordination" nebulös.

Die Gegenstimmen

The Register liest den Plan als Versuch, die eigene Regulierung selbst zu schreiben, und nennt ihn regulatory capture. Der Flask-Entwickler Armin Ronacher hält den Essay für gut, widerspricht aber im Kern: In einem Blogpost argumentiert er, dass offene Gewichte das Tempo besser regulieren würden als Absprachen zweier US-Firmen, deren Prüfer METR ebenfalls eng mit beiden verbunden sei. Bryan Cantrill, CTO von Oxide, kritisiert die Aussterbe-Prognosen einzelner Anthropic-Leute als unverantwortliche Angstmache ohne Belege.

Was sich für euch ändert

Kurzfristig nichts. Keine der Stellungnahmen nennt ein verschobenes Release oder geänderte Preise, und die US-Regierung als wichtigster Adressat von Schritt 2 winkt ab. Ohne sie gibt es keine kartellrechtliche Ausnahme und damit keine Absprachen zwischen den Laboren.

Im Blick behalten solltet ihr vor allem, ob die Prüfer bei Anthropic und OpenAI wirklich anfangen und veröffentlichen. Ende September treffen sich Trump und Xi, laut AP dürfte KI-Governance dabei auf der Agenda stehen. Wer MAI-Modelle nutzt oder evaluiert, kann sich an Microsofts Konsultation beteiligen: Dort steht erstmals schriftlich, was die Modelle nicht tun sollen, und das lässt sich in eine Anbieterbewertung übernehmen.