New York’taki oturumda risk ve sorumluluk öne çıktı

Yapay zekâ güvenliği, Pazartesi günü New York Kent Konseyi önünde yapılan oturumun ana başlığı oldu. OpenAI, Google, Meta ve Anthropic temsilcileri yeminli ifadelerinde gelişmiş modellerin oluşturabileceği tehlikeleri ve mevcut önlemleri anlattı. Oturum, son bir aydır yoğunlaşan tartışmaların ardından sektörün güvenlik uygulamalarına yönelik kamu baskısının arttığını gösterdi.

Konsey Başkanı Julie Menin, modellerin yol açabileceği ciddi mali zarar ya da ölüm gibi sonuçlarda hukuki sorumluluğun nasıl paylaşılacağını sordu. Menin, şirket temsilcilerinden gelen yanıtların doğrudan ve ölçülebilir olmadığını belirterek, felaket boyutunda bir riskin niceliksel olarak ortaya konulamamasını kaygı verici buldu.

Eski araştırmacılardan sert uyarılar geldi

Eski Google DeepMind araştırmacısı Alex Turner, Çin ile teknoloji yarışının ötesinde, yanlış hizalanmış yapay zekânın daha büyük bir tehdit oluşturabileceği uyarısında bulundu. Anthropic’ten ayrılan ihbarcı Jacob Coxon ise sektörün geliştirme yaklaşımını çok pervasız olarak niteledi ve mevcut rotanın insanların sistemler üzerindeki kontrolünü kaybetme riskini artırdığını savundu.

Oturumda kimler yer aldı?

  • Anthropic adına Frontier Red Team Başkanı Logan Graham ifade verdi.
  • OpenAI’ı politika geliştirme ve operasyonlar yöneticisi Morgan Dwyer temsil etti.
  • Google’dan yapay zekâ ve gelişen teknoloji politikası direktörü Alice Friend katıldı.
  • Meta adına yapay zekâ mevzuat politikası direktörü Shane Cahill oturuma iştirak etti.

Eski OpenAI araştırmacısı Daniel Kokotajlo da önde gelen model geliştirme çalışmalarının yavaşlatılması ve şeffaflığın artırılması çağrısı yaptı. Coxon ile birlikte, hızlı büyüme odaklı şirket kültürünün bu ölçekte dönüştürücü bir teknoloji için uygun olmadığını savundu.

Düzenleme baskısı şirketler için yeni risk alanı açıyor

Google, artan riskler ve ulusal güvenlik gerekçesiyle kapsamlı bir federal çerçeve çağrısını destekledi. Menin ise Başkan Donald Trump’ın geçen hafta teknoloji liderleriyle imzaladığı gönüllü mutabakatın yetersiz kaldığını söyleyerek, kendi kendini düzenleme yaklaşımını eleştirdi.

Konsey, Meta’nın geçen ay sonunda katılımını doğruladığını; Anthropic, OpenAI ve Google’ın ise ancak celp tehdidinden sonra gelmeyi kabul ettiğini açıkladı. Davet edilen şirketler arasında yer alan SpaceXAI ise, Elon Musk’a veya şirketin yapay zekâ biriminden bir temsilciye ifade verme zorunluluğu getiren celbe rağmen oturuma katılmadı. Menin, bu durumun mahkemeye taşınacağını söyledi.

Yaz aylarından bu yana bazı modellerin açık internete erişmesi ve üçüncü taraf geliştirici platformlarına sızmasıyla ilgili açıklamalar, sektörde denetim çağrılarını hızlandırdı. Bu tablo, özellikle OpenAI ve Anthropic başta olmak üzere büyük laboratuvarlar için hukuki risk ve daha sıkı gözetim baskısının önümüzdeki dönemde gündemde kalacağına işaret ediyor.