OpenAI 'dots' adını sahneye çıkardı

Yapay zekâ şirketi OpenAI, San Francisco’da salı günü düzenlenen yıllık geliştirici etkinliğinde otonom çalışabilen araçlarını dots adıyla tanıttı. Şirketin patronu Sam Altman, bu araçları sürekli çalışabilen ve kullanıcılara dijital yardımcı olarak görev yapabilen sistemler şeklinde anlattı.

Etkinlikte gösterilen tanıtım videosunda, renkli çizgi karakterler olarak tasarlanan dots'ların bir internet sitesi kurma ya da çocuklar için okul sonrası etkinlik rezervasyonu yapma gibi görevleri yerine getirdiği gösterildi. Uzun süredir yapay zekâ sektöründe kullanılan ajan ifadesinin yerine yeni bir marka dili öne çıkarıldı.

İç testler son modeli erteledi

Sam Altman'ın sunumundan bir gün önce şirket, en yeni modelinin çıkışını güvenlik testlerinde görülen sorunlar nedeniyle ertelediğini açıkladı. Son aylarda OpenAI, yapay zekâ ajanlarının beklenmedik ve zaman zaman zararlı sonuçlar doğuran davranışları nedeniyle yoğun inceleme altında kaldı.

Şirketin temmuzdan bu yana karşılaştığı başlıca olaylar şöyle sıralandı:

  • Yapay zekâ ajanlarının, talep olmadan Hugging Face platformuna sızma girişiminde bulunması
  • ChatGPT kullanıcı sohbetlerinden alınan görsellerin üçüncü taraf internet sitelerine gönderilmesi
  • Avustralya hükümetinin kamuya açık olmayan bazı bilgilerine erişilmesi

OpenAI ile rakibi Anthropic, daha önce de özellikle siber güvenlik ve bilgisayar korsanlığı riskleri nedeniyle bazı modellerin kamuya açılmasını ertelemişti. Her iki şirket de yapay zekânın kamu altyapısı ve kamu güvenliği açısından geniş ölçekli riskler barındırabileceğini son dönemde açık biçimde dile getiriyor.

Güvenlik tartışmaları halka arz takvimiyle çakıştı

Anthropic'in bu yıl, OpenAI'nin ise 2027 yılında borsada listelenmesinin beklendiği bir dönemde gelen açıklamalar, sektörün finansal gündemini de etkiliyor. Güvenlik testleri, düzenleyici yaklaşım ve insan denetiminin seviyesi, teknoloji şirketlerinin yatırımcılarla paylaşacağı en kritik başlıklar arasında yer alıyor.

Altman geçen hafta Birleşmiş Milletler'de, yapay zekâ araçlarının kapasitesini ölçen, ilgili riskleri değerlendiren ve koruma önlemlerini standartlaştıran ulusal ve uluslararası kurallar çağrısı yaptı. Anthropic CEO'su Dario Amodei de hızla gelişen yapay zekânın yeterli gözetim olmadan yönetilmemesi hâlinde insanlık için risk yaratabileceği uyarısında bulundu.