KI-Gesetzesentwürfe überfluten den US-Kongress – Mitarbeiter warnen vor Fehlern und gefährlichen Lücken

Künstliche Intelligenz verändert inzwischen nicht nur Unternehmen und Behörden, sondern auch die Arbeit an Gesetzen in den USA. Im US-Kongress häufen sich Gesetzesentwürfe, die mit generativen KI-Assistenten erstellt wurden. Nach Angaben aus Gesprächen mit acht aktuellen und ehemaligen Mitarbeitern des Office of Legal Counsel (OLC) sind viele dieser Texte jedoch fehlerhaft, ungenau oder enthalten wichtige Auslassungen. Für die Mitarbeiter bedeutet das zunächst zusätzliche Arbeit – langfristig könnte die Entwicklung aber auch die Qualität und Verlässlichkeit der Gesetzgebung beeinflussen.

KI-Gesetzesentwürfe im US-Kongress werden zum Problem

Die Geschwindigkeit, mit der generative KI inzwischen Texte produzieren kann, macht die Technologie für politische Organisationen attraktiv. Ein Gesetzesentwurf lässt sich mit wenigen Eingaben erstellen, verändern und an unterschiedliche politische Forderungen anpassen.

Doch ein überzeugend formulierter Text ist noch lange kein rechtlich brauchbarer Gesetzestext. Genau hier entsteht nach den vorliegenden Informationen ein wachsendes Problem für die Mitarbeiter des Kongresses.

Statt die Arbeitsbelastung zu reduzieren, führen KI-generierte Entwürfe offenbar teilweise zu zusätzlicher Arbeit. Mitarbeiter müssen Texte überprüfen, Fehler erkennen, fehlende Regelungen identifizieren und Formulierungen korrigieren.

Besonders schwierig ist dabei, dass Fehler in Gesetzestexten nicht immer sofort auffallen. Ein Satz kann sprachlich plausibel klingen und trotzdem rechtlich unklar oder inhaltlich unvollständig sein.

Hunderte Vorschläge und ein wachsender Kontrollaufwand

Der US-Kongress wird dem vorliegenden Material zufolge mit Hunderten von Gesetzesvorschlägen konfrontiert, die mithilfe von KI erstellt wurden. Die Technologie wird dabei offenbar nicht nur innerhalb einzelner Kongressbüros eingesetzt.

Auch externe Gruppen greifen zunehmend auf generative KI zurück, um Gesetzesvorschläge zu formulieren. Anschließend gelangen diese Texte in den politischen Prozess und müssen von den zuständigen Mitarbeitern geprüft werden.

Für die Büros entsteht dadurch ein ungewöhnliches Paradox: Eine Technologie, die eigentlich Zeit sparen soll, kann zunächst zusätzliche Ressourcen binden.

Je größer die Zahl der eingereichten Texte wird, desto schwieriger wird es zudem, jeden Entwurf mit der gleichen Aufmerksamkeit zu kontrollieren. Damit steigt die Bedeutung menschlicher Prüfung.

Warum Fehler in Gesetzen besonders problematisch sind

Bei einem gewöhnlichen Text kann eine ungenaue Formulierung korrigiert werden, ohne dass daraus größere Konsequenzen entstehen. Bei einem Gesetz ist die Situation anders.

Gesetzestexte schaffen Regeln, Pflichten und Rechte. Schon kleine sprachliche Unterschiede können deshalb eine erhebliche Bedeutung haben. Werden wichtige Ausnahmen nicht berücksichtigt oder Begriffe falsch verwendet, kann die spätere Anwendung eines Gesetzes kompliziert werden.

Noch problematischer sind Auslassungen. Eine KI kann einen formal überzeugenden Entwurf erstellen und dabei Aspekte übersehen, die für die praktische Umsetzung entscheidend sind.

Das bedeutet nicht, dass KI grundsätzlich ungeeignet für die Gesetzgebung ist. Es zeigt vielmehr, dass generative Systeme nicht einfach als Ersatz für juristische und politische Facharbeit betrachtet werden können.

Die eigentliche Gefahr liegt nicht nur in falschen Sätzen

Die derzeitige Entwicklung hat deshalb eine zweite Ebene. Das Problem ist nicht allein, dass einzelne KI-generierte Entwürfe Fehler enthalten.

Entscheidend ist, was passiert, wenn die Zahl solcher Texte weiter zunimmt und der politische Prozess nicht entsprechend angepasst wird.

Wenn Abgeordnete und ihre Mitarbeiter immer mehr Entwürfe bearbeiten müssen, kann die Aufmerksamkeit für einzelne Vorschläge sinken. Gleichzeitig könnten gut organisierte Gruppen KI nutzen, um wesentlich mehr Gesetzesinitiativen zu produzieren, als dies mit traditionellen Methoden möglich wäre.

Damit könnte sich auch das Kräfteverhältnis innerhalb des politischen Prozesses verändern. Wer über bessere KI-Systeme, mehr Daten oder mehr Mitarbeiter zur Nachbearbeitung verfügt, könnte theoretisch wesentlich schneller politische Texte erstellen.

Das macht die Frage nach Transparenz und Kontrolle wichtiger.

Was die Entwicklung für Deutschland bedeutet

Auch für Deutschland ist die Debatte relevant. Generative KI wird zunehmend in Verwaltung, Unternehmen und politischen Organisationen eingesetzt. Damit stellt sich auch hier die Frage, wie maschinell erzeugte Texte kontrolliert werden müssen, wenn sie rechtliche oder politische Bedeutung erhalten.

Besonders wichtig ist die Unterscheidung zwischen Unterstützung und Verantwortung. Eine KI kann bei Recherche, Strukturierung oder Formulierung helfen. Die Verantwortung für den endgültigen Inhalt eines Gesetzes kann sie jedoch nicht übernehmen.

Für Bürgerinnen und Bürger ist das letztlich entscheidend. Gesetze müssen nachvollziehbar, überprüfbar und rechtlich eindeutig sein – unabhängig davon, ob bei ihrer Vorbereitung ein Mensch, eine Software oder eine Kombination aus beidem beteiligt war.

Die nächste Herausforderung für den politischen Prozess

Die Entwicklung im US-Kongress dürfte deshalb vor allem eine organisatorische Herausforderung werden. Je häufiger KI zur Erstellung von Gesetzesentwürfen eingesetzt wird, desto wichtiger werden Verfahren zur Prüfung, Kennzeichnung und Qualitätssicherung.

Dabei geht es nicht darum, jede Nutzung künstlicher Intelligenz zu verhindern. Vielmehr muss sichergestellt werden, dass ein KI-generierter Text nicht allein deshalb politisches Gewicht erhält, weil er schnell erstellt werden kann.

Eine besonders wichtige Rolle werden weiterhin Juristen, politische Fachreferenten und Abgeordnete spielen. Sie müssen prüfen, ob ein Vorschlag tatsächlich das gewünschte Problem löst, welche unbeabsichtigten Folgen entstehen könnten und ob wichtige Regelungsbereiche fehlen.

Die größere Bedeutung

Die Vorgänge im US-Kongress zeigen eine neue Seite der KI-Revolution. Künstliche Intelligenz kann nicht nur Informationen zusammenfassen oder Texte schreiben – sie kann zunehmend direkt in Prozesse eingreifen, die gesellschaftliche Regeln bestimmen.

Gerade deshalb ist die menschliche Kontrolle entscheidend. Wenn KI die Produktion von Gesetzesentwürfen drastisch beschleunigt, darf die Prüfung nicht zum Engpass werden, der aus Zeitdruck irgendwann ebenfalls automatisiert oder vernachlässigt wird.

Die entscheidende Frage lautet damit nicht mehr, ob KI bei der Gesetzgebung eingesetzt wird. Sie lautet, wie verhindert werden kann, dass Geschwindigkeit und Masse die juristische Genauigkeit verdrängen.