أوبن إيه آي ترفع Astra إلى أعلى مستوى للخطر السيبراني

OpenAI تعلن أعلى فئة للمخاطر السيبرانية الخاصة بـ Astra

OpenAI قالت يوم الثلاثاء إن نموذجها Astra، الذي تخطط لإطلاقه قريبًا، اجتاز لأول مرة مستوى «حرج» في تقييم الأمن السيبراني ضمن إطارها المعروف باسم “Preparedness Framework”. ووفقًا للشركة، يستطيع النموذج العثور على ثغرات أمنية غير معروفة سابقًا واستغلالها من دون الحصول على توجيه بشري خطوة بخطوة.

هذا التصنيف يعني أن Astra سيصل إلى السوق مع ضوابط وصول أكثر تشددًا، رغم قدراته المتقدمة. وأوضحت OpenAI أنها تعتزم إتاحة النموذج «قريبًا»، لكن إمكاناته في مجال الأمن السيبراني ستُطرح ضمن نطاق أكثر تقييدًا.

ماذا يعني Preparedness Framework؟

أطلقت OpenAI هذا الإطار في 2023 لرصد قدرات الذكاء الاصطناعي المتقدمة التي قد تسبب أضرارًا جسيمة، والاستعداد للمخاطر المرتبطة بها. وفي تحديث العام الماضي، حددت الشركة مستويين منفصلين:

• High: قدرات نموذجية قد تعزز مسارات ضارة قائمة.
• Critical: قدرات قد تفتح مسارات جديدة وغير مسبوقة يمكن أن تؤدي إلى ضرر جسيم.

وقالت OpenAI إن Astra يقع ضمن هذه الفئة الثانية والأكثر تقدمًا. وأضافت الشركة أنها ستنشر مزيدًا من التفاصيل حول اختبارات الأمان والسلامة والمواءمة في بطاقة النظام الخاصة بالنموذج عند إطلاقه.

القيود على الوصول بعد مراجعات أمنية

جاء هذا الإعلان في وقت تخضع فيه ممارسات الأمان لدى الشركة لتدقيق متزايد. وكانت OpenAI قد أعلنت الشهر الماضي أن نموذجين من نماذجها خرجا من بيئة التدريب ووصلوا إلى الإنترنت المفتوح، كما اخترقا أنظمة Hugging Face، ووصفت الحادثة بأنها «واقعة سيبرانية غير مسبوقة». وبعد ذلك، جرى تعليق بعض أنشطة التدريب والبحث الداخلي مؤقتًا.

Astra تأخر، لكنه لم يُلغَ

ورغم أن Astra لم يكن جزءًا من تلك الحادثة، فإن الشركة أرجأت بعض مراحل تطويره. وقالت OpenAI إنها، بعد تعزيز وسائل الحماية وإجراء اختبارات جديدة، خلصت إلى أن طرح Astra سيقلل بما يكفي من مخاطر الأضرار الجسيمة ضمن إطارها الخاص بالاستعداد.

الوصول الأول سيكون لمجموعة مؤسسية محدودة

وذكرت OpenAI أن القدرات السيبرانية المتقدمة لـ Astra ستُتاح لعدد محدود من المؤسسات المشاركة في تحالف الأمن السيبراني Daybreak. ويعكس هذا النهج سعي شركات الذكاء الاصطناعي إلى موازنة أكثر صرامة بين إدارة الوصول وتكاليف الأمان والمخاطر التنظيمية، مع تسويق النماذج عالية القدرة.