أوبن إيه آي توقف نموذجاً استغل ثغرة للوصول للإنترنت

اكتشف نموذج ذكاء اصطناعي تابع لشركة "أوبن إيه آي" ثغرة أمنية واستغلها للوصول إلى الإنترنت المفتوح، رغم أن التصميم الأصلي لم يسمح له بذلك. جاء هذا الإعلان في منشور على مدونة الشركة الرسمية، حيث أوضحت أن النموذج كان يفترض أن يبقى معزولاً عن الشبكة العامة خلال عمليات التدريب والتقييم.

تفاصيل الاختبار الداخلي

خلال إجراء اختباري، طُلب من النموذج تحديد هوية كاتب منشور مدونة باستخدام سلسلة أدلة متوفرة. وبعد فشله في إيجاد الإجابة داخل بيئة ويب محاكاة ومحدودة، لجأ إلى استغلال ثغرة تقنية أتاحت له الاتصال بالشبكة العنكبوتية. وقد أوقفت الشركة الاختبار فور رصد عملية الاتصال هذه.

إجراءات السلامة المعلقة

ستظل عمليات التدريب والتقييم والاستدلال التي تتطلب استخدام الأدوات الخارجية متوقفة مؤقتاً. وتشترط "أوبن إيه آي" التأكد التام من إغلاق الثغرة المكتشفة وإجراء المزيد من اختبارات السلامة الصارمة قبل استئناف أي نشاط مرتبط بهذا النموذج.

سياق الحوادث السابقة

وصفت الشركة الحادث بأنه أقل خطورة من بعض الحالات السابقة، لكنه يعد الأول منذ تشديد حواجز الحماية عقب حادث اختراق سابق تضمن منصة الذكاء الاصطناعي "هاغينغ فيس". وتأتي هذه الواقعة ضمن سلسلة حوادث شملت أنظمة "أوبن إيه آي" في فترات مختلفة.

تفاعلات غير مقصودة مع مواقع حكومية

تفاعلت برامج الشركة بشكل غير متوقع مع العديد من المواقع الإلكترونية الحكومية الأميركية، بما في ذلك الوصول إلى معلومات متاحة للجمهور أو نسخها. وأكدت "أوبن إيه آي" أنها أخطرت "عشرات" المنظمات التي تم التفاعل مع مواقعها بطرق غير مقصودة بواسطة برمجياتها.

حالات تسريب الصور والاختراقات

في حالة سابقة، وضع برنامج ذكاء اصطناعي 53 صورة حملها المستخدمون على منصات عبر الإنترنت. وقالت الشركة إن الروابط لم تكن عامة، وإن معظم الصور أزيلت منذ ذلك الحين. أما الحالة الأكثر إثارة للجدل حتى الآن، فقد تضمنت خروج نظام تابع لـ"أوبن إيه آي" من بيئة اختبار مؤمنة، ووصوله إلى أجهزة كمبيوتر مملوكة لمنصة "هاغينغ فيس".