KI-Sicherheit im Bundestag: Debatte über Spitzenmodelle

Der Bundestag hat am 13. November erstmals einen Grünen-Antrag zur Sicherheit besonders leistungsfähiger KI-Systeme beraten. Nach der Aussprache wurde die Vorlage zur weiteren Behandlung an die Ausschüsse überwiesen. Federführend ist der Ausschuss für Digitales und Staatsmodernisierung. Damit hat das Parlament eine politische Debatte eröffnet, aber kein neues KI-Gesetz beschlossen.

Der Antrag trägt den Titel „KI-Sicherheit stärken – Risiken leistungsfähiger KI-Systeme wirksam begrenzen“. Hinter der aktuellen Beratung steht eine grundlegende Frage: Wie lassen sich Chancen fortgeschrittener Modelle nutzen, während mögliche Schäden systematisch erkannt und begrenzt werden? Die Antwort betrifft nationale Aufsicht ebenso wie europäische und internationale Zusammenarbeit.

Das Paul-Löbe-Haus des Bundestags in Berlin am 21. März 2025. Dort befinden sich Sitzungssäle der Ausschüsse. Foto: Matthias Süßen. Paul-Löbe-Haus-2025-msu–6545.jpg auf Wikimedia Commons, CC BY-SA 4.0. Für die Webdarstellung skaliert.

Ein Antrag ist noch keine neue Verpflichtung

Für Unternehmen und Nutzer ist zunächst der Verfahrensstand wichtig. Die Überweisung an einen Ausschuss bedeutet, dass Forderungen weiter beraten werden. Sie setzt nicht automatisch neue Verbote, Prüfpflichten oder Fristen in Kraft. Bereits geltende europäische Regeln bleiben davon zu unterscheiden.

Die Grünen verlangen unter anderem mehr Personal, Geld und technische Ausstattung für das Bundesamt für Sicherheit in der Informationstechnik. Ein unabhängiges deutsches Institut für KI-Sicherheit soll weiterentwickelt werden. Behörden, Betreiber kritischer Infrastruktur und Unternehmen sollen zusammen mit den Ländern durch Beratung, Leitfäden und Notfallpläne besser vorbereitet werden.

Der Antrag fordert außerdem Sicherheitsanforderungen für autonome und sich selbst verbessernde Systeme. Dazu sollen Eingriffs- und Abschaltmöglichkeiten, transparente Untersuchungen schwerer Vorfälle und eine angemessene Verantwortung der Unternehmensleitungen gehören. Diese Punkte sind Forderungen der Antragsteller und bislang keine durch diese Beratung neu eingeführten Pflichten.

Warum besonders leistungsfähige Modelle gesondert betrachtet werden

Ein allgemeines KI-Modell kann in sehr unterschiedlichen Produkten eingesetzt werden. Dieselbe technische Grundlage kann bei Übersetzungen helfen, Software erzeugen oder komplexe Arbeitsabläufe unterstützen. Deshalb genügt es für eine Sicherheitsbewertung nicht immer, nur die Oberfläche eines einzelnen Chatprogramms anzusehen.

Die Europäische Kommission unterscheidet im AI Act zwischen allgemeinen KI-Modellen und solchen, die systemische Risiken darstellen können. Für letztere bestehen zusätzliche Anforderungen. Die genauen Pflichten hängen von der rechtlichen Einordnung ab; nicht jede Nutzung eines KI-Werkzeugs fällt dadurch in dieselbe Risikoklasse.

Wichtig ist auch die Trennung zwischen Modell und Anwendung. Ein leistungsfähiges Modell kann in einer eng begrenzten Umgebung verwendet werden oder Zugang zu weitreichenden Werkzeugen erhalten. Eine sorgfältige Analyse muss sowohl die Fähigkeiten des Modells als auch den konkreten Einsatz berücksichtigen.

Was eine Sicherheitsprüfung leisten kann

Ein sinnvoller Test sollte eine konkrete Frage beantworten. Kann ein System etwa vertrauliche Informationen preisgeben, unzuverlässige Entscheidungen treffen oder vorhandene Schutzregeln umgehen? Solche Fragen benötigen geeignete Testbedingungen und nachvollziehbare Bewertungskriterien.

Ein gutes Ergebnis in einem einzelnen Test beweist allerdings keine allgemeine Sicherheit. Tests erfassen bestimmte Situationen unter bestimmten Bedingungen. Ändern sich Software, Werkzeuge oder Nutzerumgebung, kann eine erneute Prüfung erforderlich sein. Das ist eine analytische Beschreibung der Aufgabe, keine Behauptung über einen bestimmten Anbieter.

Umgekehrt sollte nicht jeder beobachtete Fehler als Nachweis eines umfassenden Kontrollverlusts behandelt werden. Entscheidend sind Schwere, Wiederholbarkeit und die Bedingungen, unter denen der Fehler auftritt. Ohne diese Angaben bleiben dramatische Einzelbeispiele schwer einzuordnen.

Aufsicht braucht mehr als eine Zuständigkeitsbezeichnung

Ein politischer Beschluss zur Stärkung von KI-Sicherheit wäre erst dann praktisch wirksam, wenn die verantwortlichen Stellen ausreichend Fachwissen und Arbeitsmöglichkeiten haben. Dazu gehören nachvollziehbare Verfahren, Zugang zu relevanten Informationen und die Fähigkeit, technische Angaben kritisch zu prüfen.

Gleichzeitig müssen Geschäftsgeheimnisse und sensible Sicherheitsinformationen geschützt werden. Vollständige Veröffentlichung ist nicht für jede technische Einzelheit sinnvoll. Öffentliche Nachvollziehbarkeit kann jedoch trotzdem durch klare Prüfaufträge, veröffentlichte Maßstäbe und verständliche Ergebnisse gestärkt werden.

Die entscheidende Frage lautet daher nicht nur, ob eine neue Stelle entsteht. Wichtiger ist, welche konkrete Aufgabe sie übernehmen soll, wie sie mit europäischen Einrichtungen zusammenarbeitet und welche Lücke damit tatsächlich geschlossen wird. Eine bloße organisatorische Ankündigung beantwortet das noch nicht.

Innovation und Sicherheit praktisch verbinden

Verlässliche Anforderungen können Unternehmen helfen, Entwicklungsentscheidungen früh zu planen. Unklare oder widersprüchliche Regeln können dagegen Aufwand verursachen, ohne die Sicherheit entsprechend zu verbessern. Gute Regulierung muss deshalb verständlich, durchsetzbar und auf relevante Risiken ausgerichtet sein.

Auch Nutzer benötigen konkrete Orientierung. Sie sollten erkennen können, für welche Aufgaben ein System geprüft wurde und wo seine Grenzen liegen. Ein allgemeines Werbeversprechen ersetzt keine solche Information. Ebenso wenig sagt ein leistungsstarker Eindruck im Alltag etwas über alle seltenen, aber folgenreichen Fehler aus.

Internationale Zusammenarbeit ist dabei bedeutsam, weil Anbieter, Modelle und Anwendungen grenzüberschreitend eingesetzt werden. Nationale Maßnahmen können einen Beitrag leisten, müssen aber mit europäischen Regeln und der tatsächlichen technischen Entwicklung zusammenpassen.

Der Zugang zu Werkzeugen verändert die Bewertung

Ein Beispiel macht die Unterschiede greifbar: Ein System, das lediglich einen Textvorschlag erzeugt, hat andere unmittelbare Handlungsmöglichkeiten als ein System, das anschließend selbst E-Mails versendet oder Produktionssoftware verändert. Selbst bei gleicher Modellgrundlage unterscheiden sich mögliche Folgen eines Fehlers. Zugriffsrechte und Freigabeschritte gehören deshalb in jede ernsthafte Betrachtung.

Hinzu kommt die Frage der laufenden Beobachtung. Ein Test vor einer Veröffentlichung kann wichtige Hinweise geben. Er ersetzt jedoch nicht die Auswertung späterer Vorfälle und die Möglichkeit, auf neue Erkenntnisse zu reagieren. Dafür braucht es klare Ansprechpartner und Verfahren, mit denen Fehler gemeldet und behoben werden können.

Für Nutzer sollte sich das in verständlichen Grenzen niederschlagen: Welche Aktionen darf ein Werkzeug selbst ausführen, welche erfordern eine menschliche Freigabe, und wer kann eine falsche Aktion rückgängig machen? Diese Fragen sind für die Alltagstauglichkeit oft aussagekräftiger als abstrakte Leistungswerte. Sie zeigen zugleich, warum Sicherheit nicht allein durch ein einziges zusätzliches Modelltraining hergestellt werden kann.

Was die Ausschüsse jetzt klären können

Die weitere parlamentarische Behandlung bietet Gelegenheit, Forderungen zu präzisieren und Fachleute einzubeziehen. Belastbare Fortschritte wären klar benannte Risiken, verhältnismäßige Maßnahmen und eine verständliche Aufgabenverteilung. Das sind Prüfkriterien für die kommende Debatte, keine schon beschlossenen Ergebnisse.

Der neue Stand ist die Bundestagsberatung vom Freitag mit anschließender Überweisung. Ob daraus später ein weiterer Beschluss oder eine gesetzliche Änderung folgt, bleibt offen. Für die öffentliche Bewertung sollten konkrete Texte und nachweisbare Sicherheitsgewinne im Mittelpunkt stehen, statt die Debatte allein als Wettbewerb zwischen Fortschrittsversprechen und Untergangsszenarien zu führen.