"""

في جلسة نيويورك برزت المخاطر ومسألة المسؤولية

سلامة الذكاء الاصطناعي كانت العنوان الأبرز خلال الجلسة التي عُقدت يوم الاثنين أمام مجلس مدينة نيويورك. وفي شهاداتهم تحت القسم، عرض ممثلو OpenAI وGoogle وMeta وAnthropic المخاطر التي قد تترتب على النماذج المتقدمة والإجراءات المتاحة للحد منها. وأظهرت الجلسة تصاعد الضغط العام على ممارسات السلامة في القطاع، بعد أسابيع من تنامي الجدل حوله.

وسألت رئيسة المجلس جولي مينين عن كيفية توزيع المسؤولية القانونية في حال تسببت النماذج في أضرار مالية جسيمة أو حتى في وفيات. وقالت مينين إن الردود التي قدمها ممثلو الشركات لم تكن مباشرة أو قابلة للقياس، معتبرة أن العجز عن تقدير المخاطر الكارثية بصورة رقمية أمر يبعث على القلق.

تحذيرات حادة من باحثين سابقين

حذّر أليكس تيرنر، الباحث السابق في Google DeepMind، من أن الخطر لا يقتصر على السباق التكنولوجي مع الصين، بل إن الذكاء الاصطناعي غير المتوافق مع أهداف البشر قد يشكل تهديداً أكبر. أما جاكوب كوكسون، وهو مُبلّغ عن مخالفات غادر Anthropic، فوصف نهج التطوير في القطاع بأنه متهور للغاية، معتبراً أن المسار الحالي يزيد خطر فقدان البشر السيطرة على الأنظمة.

من شارك في الجلسة؟

  • مثل Anthropic رئيس فريق Frontier Red Team لوغان غراهام.
  • ومثل OpenAI مدير تطوير السياسات والعمليات مورغان دواير.
  • وشارك من Google مدير سياسات الذكاء الاصطناعي والتقنيات الناشئة أليس فريند.
  • كما حضر عن Meta مدير سياسات تنظيم الذكاء الاصطناعي شين كاهيل.

ودعا الباحث السابق في OpenAI دانيال كوكوتاجلو أيضاً إلى إبطاء جهود تطوير النماذج الرائدة وزيادة الشفافية. وقال إنه، إلى جانب كوكسون، يرى أن ثقافة الشركات القائمة على النمو السريع لا تلائم تقنية بهذه الدرجة من التأثير التحويلي.

الضغط التنظيمي يفتح باب مخاطر جديدة أمام الشركات

ودعمت Google الدعوة إلى إطار اتحادي شامل، مستندة إلى تصاعد المخاطر واعتبارات الأمن القومي. أما مينين فانتقدت نهج التنظيم الذاتي، قائلة إن المذكرة الطوعية التي وقعها الرئيس دونالد ترامب مع قادة التكنولوجيا الأسبوع الماضي لا تكفي.

وقال المجلس إن Meta أكدت مشاركتها في أواخر الشهر الماضي، بينما وافقت Anthropic وOpenAI وGoogle على الحضور فقط بعد التهديد باستدعاءات قضائية. أما شركة SpaceXAI، المدرجة بين الشركات المدعوة، فلم تحضر رغم الاستدعاء الذي ألزم إيلون ماسك أو أحد ممثلي وحدة الذكاء الاصطناعي في الشركة بالإدلاء بالشهادة. وقالت مينين إن الأمر سيُحال إلى المحكمة.

ومنذ الصيف، أدت تصريحات تتعلق بوصول بعض النماذج إلى الإنترنت المفتوح واختراقها منصات تطوير تابعة لأطراف ثالثة إلى تسريع الدعوات إلى الرقابة داخل القطاع. ويشير هذا المشهد إلى أن المخاطر القانونية والضغوط من أجل إشراف أكثر صرامة ستظل حاضرة في الفترة المقبلة، ولا سيما بالنسبة إلى المختبرات الكبرى مثل OpenAI وAnthropic.

"""