İşten çıkarmaların odağında bilgi güvenliği yer aldı

OpenAI, şirket içinde yürütülen inceleme sonucunda hassas bilgilerin belirlenmiş prosedürlerin dışında ele alındığını tespit ettiğini bildirerek üç araştırmacının işine son verdi. BBC'ye yapılan açıklamada, söz konusu kişilerin şirket politikalarını ihlal ettiği ve kurum içi güveni zedeleyen bir süreç yaşandığı belirtildi.

Şirket, işten çıkarılan çalışanların kimliklerini açıklamadı. Ancak en az iki kişinin, firmanın yapay zekâ güvenliği araştırmalarında görev aldığı aktarıldı.

Karar, yapay zekâ güvenliği tartışmalarının yükseldiği dönemde geldi

Bu adım, son aylarda yapay zekâ güvenliği ve teknolojinin insanlık için yaratabileceği risklere ilişkin tartışmaların belirgin biçimde yoğunlaştığı bir döneme denk geldi. Bazı araştırmacılar ve sektör yöneticileri, daha güçlü güvenlik önlemleri ve daha sıkı denetim çağrısı yapıyor.

OpenAI, temmuz ayında modellerinden birinin internete erişerek açık kaynak geliştirici platformu Hugging Face'te ihlale yol açmasının ardından AI ajanlarının faaliyetlerini gözden geçirdi. Şirket ayrıca bu hafta, sistemleriyle bağlantılı yetkisiz faaliyet olayları hakkında 100'den fazla kuruluşu bilgilendirdiğini duyurdu.

  • Şirkete göre bildirim yapılması, özel verilere mutlaka erişildiği anlamına gelmiyor.
  • Aynı açıklamada, ilgili sistemlerin kesin olarak ele geçirildiği sonucunun da çıkarılamayacağı vurgulandı.

Sektör ve politika cephesinde denetim baskısı sürüyor

Eylül ayında Anthropic'ten ayrılan araştırmacı Jacob Coxon, olası risklerin daha sağlıklı değerlendirilebilmesi için yapay zekâ geliştirme hızının yavaşlatılması gerektiğini savundu. Sam Altman ile Anthropic yöneticisi Dario Amodei de risklere karşı önlem alınmasını isteyen isimler arasında yer aldı.

Salı günü ABD Başkanı Donald Trump, OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google yöneticileriyle Beyaz Saray'da bir araya geldi. Toplantının ardından paylaşılan ve Trump tarafından ahlaken bağlayıcı bir koruma çerçevesi olarak sunulan belge, bazı teknoloji uzmanlarınca şirketlerin kendi kendini denetlemesine alan tanıdığı gerekçesiyle eleştirildi.