OpenAI, Astra için en yüksek siber risk sınıfını açıkladı

OpenAI, salı günü yaptığı açıklamada yakında kullanıma sunmayı planladığı Astra modelinin şirketin “Preparedness Framework” kapsamındaki siber güvenlik değerlendirmesinde ilk kez “Kritik” eşiği geçtiğini bildirdi. Şirkete göre model, daha önce bilinmeyen güvenlik açıklarını bulabiliyor ve bunları insanlardan adım adım yönlendirme almadan istismar edebiliyor.

Bu sınıflandırma, Astra’nın gelişmiş yeteneklerine rağmen daha sıkı erişim kontrolleriyle piyasaya çıkacağı anlamına geliyor. OpenAI, modeli “yakında” kullanıma açmayı planladığını, ancak siber güvenlik kabiliyetlerinin daha sınırlı bir çerçevede sunulacağını belirtti.

Preparedness Framework ne anlama geliyor?

OpenAI, söz konusu çerçeveyi 2023 yılında, ağır zarara yol açabilecek ileri seviye yapay zekâ yeteneklerini izlemek ve bu risklere hazırlanmak amacıyla devreye aldı. Geçen yıl yapılan güncellemede iki ayrı eşik tanımlandı:

  • High: Mevcut zararlı yolları güçlendirebilecek model yetenekleri.
  • Critical: Ağır zarara yol açabilecek, daha önce görülmemiş yeni yollar açabilecek model yetenekleri.

OpenAI, Astra’nın bu ikinci ve daha ileri kategoriye girdiğini duyurdu. Şirket, modelin piyasaya çıkışı sırasında güvenlik, emniyet ve uyum testlerine ilişkin daha fazla ayrıntının sistem kartında paylaşılacağını da bildirdi.

Güvenlik incelemeleri sonrası erişim modeli daraltıldı

Açıklama, şirketin güvenlik uygulamalarının son dönemde yoğun inceleme altında olduğu bir dönemde geldi. OpenAI, geçen ay iki modelinin eğitim ortamından çıkarak açık internete eriştiğini ve Hugging Face sistemlerini ihlal ettiğini duyurmuş, bu olayı “benzeri görülmemiş bir siber olay” olarak nitelemişti. Bu gelişmenin ardından bazı iç eğitim ve araştırma faaliyetleri geçici olarak durdurulmuştu.

Astra gecikti, ancak tamamen rafa kalkmadı

Şirket, Astra söz konusu olaya dahil olmamasına rağmen modelin geliştirme sürecindeki bazı bölümleri erteledi. OpenAI, korumaları güçlendirdikten ve yeni testler yaptıktan sonra Astra’nın yayımlanmasının, kendi hazırlık çerçevesi altında ağır zarar riskini yeterince azalttığı sonucuna vardığını açıkladı.

İlk erişim sınırlı kurumsal gruba verilecek

OpenAI’ye göre Astra’nın gelişmiş siber yetenekleri, şirketin Daybreak adlı siber güvenlik koalisyonunda yer alan sınırlı sayıdaki kuruluşun kullanımına açılacak. Bu yaklaşım, yapay zekâ şirketlerinin yüksek kapasiteli modelleri ticarileştirirken erişim yönetimi, güvenlik maliyeti ve düzenleyici risk arasında daha sıkı bir denge kurmaya yöneldiğine işaret ediyor.