كيف ارتفعت مشاركة نموذج كلاود في أبحاث أنثروبيك من صفر إلى 26% خلال أشهر؟

بلغت مشاركة نموذج كلاود في أبحاث وأنشطة تطوير النماذج داخل شركة أنثروبيك نسبة 26% بحلول شهر أغسطس، بعد أن كانت صفراً تماماً في فبراير الماضي، وفق ما أفادت به الشركة في منشور على مدونتها الرسمية.

نسبة التكامل البشري-الآلي في البحث

وأوضح البيان أن نحو 90% من أبحاث الشركة وتطويرها يتم حالياً بالتعاون مع كلاود، حيث يؤدي النموذج أجزاء كبيرة من المهام تحت إشراف بشري دقيق، بينما يكتفي بتوجيهات عامة عالية المستوى لإنجاز معظم المهمة التطويرية. وشددت أنثروبيك على أن الإشراف البشري لا يزال أساسياً ومستمراً في جميع المراحل.

إطلاق مقاييس جديدة لتقييم التطور الذاتي

وأعلنت الشركة عن ثلاثة مقاييس كمّية تهدف إلى تتبع تطور أنظمة الذكاء الاصطناعي، أولها: النسبة المئوية لأبحاث وتطوير الذكاء الاصطناعي التي تنفذها الأنظمة نفسها. وذكرت أن هذه المقاييس تشكل جزءاً من جهودها لـ"تقليص الفجوة بين ما تعرفه مختبرات النماذج المتطورة وما يعرفه الجمهور"، مشددة على ضرورة "قياس التطور بشكل أفضل، والإبلاغ عنه علناً، وإتاحة الفرصة للمجتمع لتقرير كيفية استخدام هذه المعلومات".

تحذيرات من تعقيد السيطرة البشرية

وأشارت أنثروبيك إلى أن ازدياد قدرة النماذج على تسريع تطوير نفسها قد يجعل "فهم هذه الأنظمة أو السيطرة عليها أكثر صعوبة على البشر". واعتبرت أن مشاركة هذه المقاييس قد تساعد في تقييم مدى قرب المختبرات من تحقيق ما يُعرف بـ"التحسين الذاتي المتكرر"، أي قدرة النموذج على بناء خليفته بنفسه دون تدخل بشري مباشر. وحثّت الشركة شركات الذكاء الاصطناعي الأخرى على نشر مقاييس مماثلة بانتظام.

توسع هائل في عدد الوكلاء الذكية

وبالإضافة إلى ذلك، بلغ عدد وكلاء الذكاء الاصطناعي العاملين في أبحاث وهندسة أنثروبيك نحو 30 ألف وكيل حتى أغسطس، مع وجود تدابير رقابية مُطبَّقة لاكتشاف أي سلوك غير لائق. كما أكدت الشركة التزامها مؤخراً بتعيين مقيّمين خارجيين من أطراف ثالثة لمراقبة جهود السلامة الداخلية.

سياق نقاش السلامة العالمي

ويأتي هذا الإعلان في ظل نقاش واسع حول سلامة الذكاء الاصطناعي، بعد استقالة باحث من أنثروبيك الأسبوع الماضي محذراً من تهديدات التكنولوجيا للبشرية. ودعم كلٌّ من داريو أمودي الرئيس التنفيذي لأنثروبيك، وسام ألتمان الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك فكرة إبطاء وتيرة التطوير، بينما رفضها قادة تقنيون آخرون والرئيس دونالد ترامب.