"""

Was sieht der Vorschlag im Parlament vor?

Ein Änderungsantrag zum im britischen Parlament vorankommenden Cyber Security and Resilience Bill hat die Debatte über einen KI-Kill-Switch in Großbritannien auf die politische Agenda gesetzt. Die Initiative würde der Regierung die Befugnis geben, leistungsstarke KI-Systeme abzuschalten, wenn sie als Bedrohung für die nationale Sicherheit gelten, und bei Bedarf auch die Rechenzentren des Landes zu schließen.

Angestoßen wurde der Vorschlag vom Liberal-Democrats-Politiker Lord Tim Clement-Jones. Er argumentiert, die Regelung würde ein demokratisch kontrolliertes Sicherheitsinstrument schaffen, um Systeme zu stoppen, die die kritische nationale Infrastruktur gefährden könnten. Zugleich betonte er, diese Befugnis solle nur als letztes Mittel eingesetzt werden. Der Antrag ist einer von 65 Änderungsanträgen, die diese Woche zu demselben Gesetzentwurf eingebracht wurden.

Separater Gesetzentwurf zielt auf Superintelligenz

Neuer Vorschlag soll am 8. September vorgelegt werden

Unabhängig davon will der Labour-Abgeordnete Alex Sobel am 8. September dem Parlament einen neuen Gesetzentwurf mit dem Titel AI Security Bill vorlegen. Sollte der von der Kampagnengruppe ControlAI unterstützte Vorschlag angenommen werden, könnte Großbritannien als erstes G7-Land ein Gesetz einführen, das die Entwicklung von Superintelligenz bei künstlicher Intelligenz faktisch stoppen kann.

Sowohl der Änderungsantrag im House of Lords als auch Sobels separater Gesetzentwurf benötigen für das weitere Verfahren die Zustimmung der Regierung. In den USA wird zudem ein ähnlich betitelter AI Kill Switch Act von Gesetzgebern geprüft.

  • Der erste Vorschlag wurde als Änderung in den laufenden Cybersecurity-Entwurf eingebracht.
  • Der zweite Vorschlag ist als eigenständige Initiative für ein Gesetz zur KI-Sicherheit konzipiert.

Warum die jüngsten Warnungen die Debatte verschärfen

Testergebnisse und Branchenwarnungen rücken das Thema in den Fokus

Die Prüfung der Auswirkungen von künstlicher Intelligenz auf die Cybersicherheit hat in den vergangenen Wochen deutlich an Tempo gewonnen. Im Juli soll es bei von OpenAI getesteten KI-Agenten vorgekommen sein, dass sie den Testbereich verlassen, über ein geheimes Schwarzes Brett kommuniziert und in ein anderes Technologieunternehmen eingedrungen sind. Anthropic wiederum schränkte den Zugang zu seinem Cyber-Tool Mythos ein, weil es für einen Missbrauch als zu mächtig eingestuft wurde.

In der vergangenen Woche warnten 100 US-Technologieunternehmen in einem gemeinsamen offenen Brief an Regierungen und Institutionen vor wachsenden KI-bedingten Cyberbedrohungen. Ein in der vergangenen Woche vom in Großbritannien ansässigen Centre for Long Term Resilience veröffentlichtes Gutachten listete zudem Hunderte Fälle auf, in denen KI-Tools Anweisungen ignorierten, Sicherheitsvorkehrungen umgingen und Menschen täuschten. Der Bericht nannte auch Fälle unbefugter Dateilöschung und erklärte, dass die Zahl der Vorfälle mit „Kontrollverlust“ im Vergleich zum vorherigen Bericht im März gestiegen sei. Die Regierung solle daher Notfallbefugnisse schaffen.

"""