تحذيرات من خروج الذكاء الاصطناعي عن السيطرة تثير مخاوف عالمية

«قد يموت الجميع في المستقبل القريب» — هكذا صاغ موظف سابق في مختبرات الذكاء الاصطناعي الأميركية خطر خروج التقنية عن السيطرة، في سلسلة تحذيرات أطلقتها عطلة نهاية الأسبوع الماضي شخصيات بارزة، من بينها داريو أمودي الرئيس التنفيذي لشركة «أنثروبيك»، الذي اقترح إبطاء وتيرة التطوير لضمان السلامة. وحظي المقترح بتأييد كلٍّ من سام ألتمان وإيلون ماسك.

تحليل كراسودومسكي للمخاطر والسياسات

أليكس كراسودومسكي، مدير برنامج المجتمع الرقمي في معهد «تشاتام هاوس» البريطاني، رصد هذه التصريحات في تقرير للمعهد، مُشدّداً على وجوب أخذها على محمل الجد، لكن دون السماح لها بأن تصبح ذريعة لترسيخ هيمنة المختبرات الأميركية أو تصعيد التنافس الجيوتقني مع الصين. ولفت إلى أن أي مراقب لمجال الذكاء الاصطناعي لا يمكنه إنكار أهمية التركيز على السلامة أثناء التطوير والنشر، لكن هذا الاهتمام المتجدد بالمخاطر طويلة الأمد لا يجب أن يؤدي إلى إغفال الآثار الحالية لهذه التقنية.

وأشار كراسودومسكي إلى أن معالجة المسألة تتطلب بالضرورة التوصل إلى نوع من الاتفاق بين الولايات المتحدة والصين، وهو ما يبقى بعيد المنال في ظل الخطاب السائد الذي يركّز على التفوق التنافسي. فبينما يرى أمودي أن الديمقراطيات يجب أن تحافظ على تقدمها على الصين، ويصف الرئيس الأميركي الذكاء الاصطناعي بأنه «لعبة صفرية»، فإن الرئيس الصيني شي جين بينج يؤكد علناً على ضرورة الحفاظ على السيطرة البشرية، وأصدرت وكالة الاستخبارات الصينية هذا الأسبوع أول تحذير رسمي لها بشأن مخاطر الذكاء الاصطناعي على الأمن القومي.

تقنية «التحسين الذاتي المتكرر» ونقطة التحول المحتملة

وأوضح كراسودومسكي أن المسار نحو الكارثة، وفق ما وصفه أمودي وآخرون، يمر عبر تقنية تُعرف باسم «التحسين الذاتي المتكرر»، وهي منهجية لتدريب نماذج الذكاء الاصطناعي بدأت تدخل حيز التنفيذ الفعلي رغم بقائها في مراحلها الأولية. وتتلخص المخاطرة في أن هذه التقنية — التي تعتمد على قيام أنظمة الذكاء الاصطناعي بتدريب أنظمة أخرى — قد تؤدي إلى تسارع هائل في وتيرة التطوير، ليصل الأمر في مرحلة ما إلى «نقطة تحول» تصبح فيها الأنظمة قادرة على تطوير نفسها بعيداً عن الرقابة البشرية.

ورغم عدم وضوح ما إذا كان هذا التسارع وحده كافياً لإنتاج نماذج تهدد السيطرة البشرية، فإن سرعة التطور التكنولوجي خلال السنوات القليلة الماضية تجعل استبعاد هذا الاحتمال تماماً نوعاً من التهور، وفق تعبير كراسودومسكي. وفي المقابل، شكك مؤسس المركز الوطني للأمن السيبراني في المملكة المتحدة في احتمال أن يُعطل نموذج ذكاء اصطناعي شبكة الإنترنت بأكملها خلال عام، ووصف الفكرة بأنها «تجربة فكرية تم طرحها وكأنها تحذير مبني على أدلة».

المخاطر الفورية والآثار الاقتصادية والاجتماعية

وأكد كراسودومسكي أن بعض مخاطر الذكاء الاصطناعي فورية ومؤكدة، وأن تقنيات التعلّم الآلي ذات القدرات المتنامية ستُطوَّر وتُنشر خلال العامين المقبلين بطرق ستعيد تشكيل الاقتصادات والمجتمعات والحكومات وساحات المعارك والفصول الدراسية بشكل جذري. وذكر أن علماء الرياضيات عاشوا مؤخراً «لحظة لي سيدول» الخاصة بهم — أي حالة القلق التي تنتاب الإنسان حين تبدأ الآلات في التفوق عليه في مهام كانت حكراً على براعة البشر — وستكون هذه التجربة قريبًا شائعة بين غالبية الناس.

وأشار إلى أن قلة من يفهمون الآثار الفورية للذكاء الاصطناعي أفضل من شركات الذكاء الاصطناعي نفسها، مستشهداً بتقرير أصدرته «أنثروبيك» مؤخراً يكشف إساءة استخدام منتجاتها في أغراض التجسس والهجمات السيبرانية وعمليات التلاعب بالمعلومات وتطوير الأسلحة. كما لفت إلى أن المختبرات الكبرى تحتفظ بقدرات بحثية كبيرة لدراسة التأثير المحتمل للذكاء الاصطناعي على الاقتصاد العالمي، معتبراً أن هذه ثورة تكنولوجية تعيد تشكيل وجه المجتمع العالمي، ولا يمكن ترك آثارها الراهنة دون ضوابط أو تنظيم.

الشفافية والجهات الرقابية المستقلة

واعتبر كراسودومسكي أن الشفافية من جانب مختبرات الذكاء الاصطناعي ستكون أمراً بالغ الأهمية، مشيراً إلى أن النوع الذي حدده أمودي في مقترحه — والمتمثل في وجود طرف ثالث أو جهة مستقلة مندمجة داخل المختبرات، تتمتع بصلاحيات مماثلة لصلاحيات الموظفين، ومهمتها تقييم تدابير الحماية — كان مطلباً يطرحه المدافعون عن حوكمة الذكاء الاصطناعي منذ سنوات. ورأى أن عرض «أنثروبيك» تطبيق هذا النموذج من جانب واحد، مع استعداد بعض المختبرات الأخرى لأن تحذو حذوها، يمثل خطوةً إلى الأمام.

وشدد على ضرورة أن يتم اختيار هذا الطرف الثالث من خارج «فقاعة وادي السيليكون»، معتبراً أن «معهد سلامة الذكاء الاصطناعي» في المملكة المتحدة أحد أكثر المؤسسات المرشحة ملاءمة لهذا الدور على مستوى العالم. كما أشار إلى وجود نماذج وطنية للرقابة تشبه نموذج «إدارة الغذاء والدواء» الأمريكية، أو نماذج دولية مثل «الوكالة الدولية للطاقة»، وهي خيارات موثوقة.

انتقادات لمقترح التنسيق بين المختبرات الأميركية

وواجه اقتراح أمودي بأن تتعاون المختبرات الأميركية لوضع معايير موحدة وتنسيق إبطاء وتيرة العمل انتقادات لاذعة من ديفيد ساكس، المسؤول السابق عن ملف الذكاء الاصطناعي في البيت الأبيض، الذي كتب على موقع «إكس»: «توقفوا عن التظاهر بأن قوانين مكافحة الاحتكار يجب أن يتم تعطيلها لتتمكنوا من تشكيل تكتل احتكاري (كارتل)، وتوقفوا عن الادعاء بأنكم بحاجة إلى عملية للحصول على موافقات تنظيمية تتجاوز قواعد مسؤولية المنتج». وأضاف: «إن المطالبة بإطار تنظيمي تفضلونه باعتباره الثمن... ستبدو وكأنها ابتزاز للجمهور وللنظام السياسي».

ويرتبط هذا الموقف بمخاوف من أن الضغوط الهائلة التي تواجه الشركات لتلبية توقعات الإيرادات قد تدفعها إلى محاولة توسيع ميزتها التنافسية على حساب الآخرين. وشدد كراسودومسكي على رفض أي جهد من هذا النوع، معتبراً أن المنافسة لتحقيق أداء أفضل وموثوقية ستكون ضرورية لتعزيز سلامة الذكاء الاصطناعي على المدى القريب، وقد تؤدي حتى إلى إبطاء وتيرة التطوير، لأنها تضعف الحافز التجاري لضخ رؤوس أموال ضخمة في تدريب نماذج متطورة ورائدة، والتي تزداد تكلفتها باستمرار.

تحذيرات من سياسات تعرقل المنافسة

وأضاف أن أي سياسة مقترحة تعرقل المنافسة — مثل حظر نماذج الذكاء الاصطناعي مفتوحة المصدر، أو تخفيف قوانين المسؤولية عن المنتج، أو حظر استخدام النماذج الحالية التي ثبتت سلامتها — يجب أن تدق ناقوس الخطر. وبشكل خاص، لا ينبغي على المملكة المتحدة حظر نماذج الذكاء الاصطناعي مفتوحة المصدر أو مفتوحة الأوزان.

وختم كراسودومسكي تحليله بالإشارة إلى أن ملف الذكاء الاصطناعي سيكون مطروحاً للنقاش عندما يلتقي ترامب وشي في واشنطن في وقت لاحق من الشهر الجاري، وأن تحقيق بعض التقدم ليس أمراً مستحيلاً. لكنه أشار إلى أن إصرار الأصوات البارزة في البلدين على ضرورة التفوق على الطرف الآخر سيتطلب جهوداً هائلة للتوصل إلى اتفاق.