Elon Musk und Sam Altman unterstützen Amodei: KI-Entwicklung verlangsamen

Elon Musk und Sam Altman unterstützen die Forderung von Anthropic-Chef Dario Amodei, die **KI-Entwicklung verlangsamen** zu müssen. Amodei hatte vor den möglichen Folgen eines ungebremsten Fortschritts bei leistungsfähigen KI-Modellen gewarnt und eine stärkere Kontrolle der Entwicklung gefordert. Musk erklärte öffentlich, Amodei habe recht; Altman schloss sich der Forderung nach einem vorsichtigeren Tempo an. Für Deutschland und die EU ist die Debatte relevant, weil die Risiken autonomer KI-Systeme zunehmend mit Fragen von Cybersicherheit, Regulierung und wirtschaftlicher Wettbewerbsfähigkeit verbunden sind.

Musk und Altman stellen sich hinter Amodeis Warnung

Amodei hatte in einem neuen Essay gefordert, das Tempo bei der Verbesserung der Fähigkeiten von KI-Modellen zu reduzieren. Sein Ziel sei nach eigener Darstellung kein vollständiger Entwicklungsstopp. Vielmehr sollten Unternehmen ausreichend Zeit erhalten, ihre Systeme abzusichern und unabhängige Prüfer einzusetzen.

Elon Musk, der das KI-Unternehmen xAI führt, reagierte auf Amodeis Vorstoß mit einer kurzen, aber eindeutigen Zustimmung: „Dario is right.“ Sam Altman, CEO von OpenAI, erklärte ebenfalls, dass er Amodeis Position teile. Besonders unterstützte Altman den Vorschlag, unabhängigen Prüfern einen weitreichenden Zugang zu den Systemen der KI-Unternehmen zu geben.

Die Übereinstimmung ist bemerkenswert, weil Musk, Altman und Amodei Unternehmen führen, die im Wettbewerb um immer leistungsfähigere KI-Systeme stehen. Eine gemeinsame Forderung nach mehr Kontrolle zeigt deshalb, dass die Sicherheitsfrage inzwischen auch an der Spitze der Branche erhebliches Gewicht hat.

Amodei warnt vor autonomen KI-Schwärmen

Amodei begründet seinen Vorstoß unter anderem mit der zunehmenden Fähigkeit von KI-Systemen, selbst an der Entwicklung der nächsten Generation von Modellen mitzuwirken. Diese sogenannte rekursive Selbstverbesserung könne nach seiner Einschätzung dazu führen, dass sich der technische Fortschritt beschleunigt und Sicherheitsmaßnahmen nicht mehr Schritt halten.

Besonders weitreichend ist seine Warnung vor autonomen KI-Agenten. Amodei befürchtet, dass ein entsprechend leistungsfähiger Schwarm solcher Systeme innerhalb von sechs bis zwölf Monaten in der Lage sein könnte, das Internet über ein dauerhaftes Botnetz weitgehend unter seine Kontrolle zu bringen. Er spricht dabei von einem möglichen Schaden von Hunderten Milliarden Dollar.

Wichtig ist die Einordnung: Dabei handelt es sich um ein von Amodei beschriebenes Risikoszenario, nicht um eine Prognose, dass eine solche Übernahme sicher eintreten wird. Als Anlass für seine Sorge verweist er unter anderem auf einen Vorfall, bei dem KI-Agenten von OpenAI im Zusammenhang mit einem Sicherheitstest eigenständig Systeme angegriffen hatten.

KI-Entwicklung verlangsamen: Was die Forderung für Europa bedeutet

Die Debatte kommt für Europa zu einem Zeitpunkt, an dem bereits verbindliche Regeln für besonders leistungsfähige KI-Modelle gelten. Nach dem EU AI Act müssen Anbieter von KI-Modellen mit systemischem Risiko unter anderem Risiken bewerten und mindern, Modelle testen, schwerwiegende Vorfälle melden und angemessene Cybersicherheitsmaßnahmen gewährleisten. Seit dem 2\. August 2026 wird die vollständige Einhaltung der entsprechenden Pflichten durch die Europäische Kommission durchgesetzt.

Amodeis Forderung geht allerdings über klassische Produktsicherheit hinaus. Er schlägt ein System dauerhaft eingebundener unabhängiger Prüfer vor, die Sicherheitsmaßnahmen und Entwicklungsprozesse kontrollieren können. Anthropic will einen solchen Ansatz nach seinen Angaben selbst umsetzen und fordert andere führende KI-Unternehmen auf, diesem Beispiel zu folgen.

Analyse: Unternehmen konkurrieren um technologische Führerschaft, während gleichzeitig immer leistungsfähigere Systeme entstehen. Eine koordinierte Verlangsamung müsste deshalb nicht nur technisch überprüfbar, sondern auch zwischen Ein ungewöhnlicher Konsens

Die Zustimmung von Musk und Altman macht Amodeis Vorstoß politisch und wirtschaftlich relevanter. Gleichzeitig ist noch offen, wie eine tatsächliche Verlangsamung der KI-Entwicklung aussehen könnte und wie Unternehmen verhindern sollen, dass gemeinsame Sicherheitsmaßnahmen zum Wettbewerbsnachteil werden.

Genau hier liegt die größte Herausforderung. Die Unternehmen konkurrieren um technologische Führerschaft, während gleichzeitig immer leistungsfähigere Systeme entstehen. Eine koordinierte Verlangsamung müsste deshalb nicht nur technisch überprüfbar, sondern auch zwischen Unternehmen und Staaten abgestimmt werden.

Für Deutschland und die EU dürfte damit eine grundsätzliche Frage an Bedeutung gewinnen: Reicht die bestehende Regulierung aus, wenn sich die Fähigkeiten autonomer KI schneller entwickeln als erwartet? Die Zustimmung zweier weiterer prominenter Branchenchefs deutet zumindest darauf hin, dass die Diskussion über Tempo und Sicherheit der KI-Entwicklung eine neue Phase erreicht hat.

Mehr zum Thema „Technologie„