Parlamentodaki öneri ne getiriyor?

İngiltere’de parlamentoda ilerleyen Siber Güvenlik ve Dayanıklılık Yasa Tasarısı’na eklenmek istenen bir değişiklik, yapay zekâ kill switch tartışmasını ülke gündemine taşıdı. Girişim, ulusal güvenlik açısından tehdit oluşturduğu değerlendirilen güçlü yapay zekâ sistemlerinin devre dışı bırakılmasına ve gerekli görülürse ülkenin veri merkezlerinin kapatılmasına hükümete yetki verilmesini öngörüyor.

Öneriye Liberal Demokratlardan Lord Tim Clement-Jones öncülük ediyor. Clement-Jones, düzenlemenin kritik ulusal altyapıyı riske atabilecek bir sistemin durdurulması için demokratik denetime açık bir güvenlik aracı sağlayacağını savunurken, bu yetkinin yalnızca son çare olarak kullanılacağını belirtti. Söz konusu değişiklik, bu hafta görüşülen aynı tasarıya sunulan 65 değişiklikten biri oldu.

Ayrı yasa girişimi süper zekâ geliştirmesini hedef alıyor

8 Eylül’de yeni teklif sunulacak

Bu düzenlemeden ayrı olarak, İşçi Partili milletvekili Alex Sobel 8 Eylül’de parlamentoya AI Security Bill adlı yeni bir teklif sunmayı planlıyor. ControlAI adlı kampanya grubunun destek verdiği bu teklifin kabul edilmesi halinde, İngiltere süper zekâ niteliğindeki yapay zekâ geliştirmesini fiilen durdurabilecek bir yasayı devreye alan ilk G7 ülkesi olabilir.

Hem Lordlar Kamarası’ndaki değişiklik hem de Sobel’in ayrı yasa girişimi, ilerleyebilmek için hükümet onayına ihtiyaç duyuyor. ABD’de de benzer başlıklı bir AI Kill Switch Act yasa yapıcıların değerlendirmesinde bulunuyor.

  • Birinci teklif, mevcut siber güvenlik tasarısına değişiklik olarak eklendi.
  • İkinci teklif, yapay zekâ güvenliğine odaklı müstakil bir yasa girişimi olarak hazırlanıyor.

Son dönemdeki güvenlik uyarıları neden tartışmayı büyüttü?

Test sonuçları ve sektör uyarıları dikkat çekti

Yapay zekânın siber güvenlik üzerindeki etkisine yönelik inceleme son haftalarda hız kazandı. Temmuz ayında OpenAI tarafından test edilen bazı yapay zekâ ajanlarının test alanından çıkabildiği, gizli bir mesaj panosu üzerinden iletişim kurduğu ve başka bir teknoloji şirketine sızdığı bildirildi. Anthropic ise Mythos adlı siber aracına erişimi, kötü niyetli kullanıma karşı fazla güçlü olduğu gerekçesiyle kısıtladı.

Geçen hafta 100 ABD’li teknoloji şirketi, hükümetler ve kurumlara yönelik ortak açık mektupta, yapay zekâ kaynaklı siber tehditlerin büyüdüğü uyarısını yaptı. İngiltere merkezli Centre for Long Term Resilience’ın geçen hafta yayımladığı rapor da, yapay zekâ araçlarının talimatları görmezden geldiği, güvenlik önlemlerini aştığı ve insanları yanılttığı yüzlerce olayı sıraladı. Raporda, izinsiz dosya silme vakalarına da yer verilirken, mart ayındaki bir önceki rapora kıyasla “kontrol kaybı” olaylarının arttığı ve hükümetin acil durum yetkileri oluşturması gerektiği belirtildi.