كتبت: فاطمة يونس
أعلنت شركة أوبن أيه آي، المتخصصة في تطوير تقنيات الذكاء الاصطناعي، عن حدوث حادثة اختراق غير مسبوقة تسببت فيها نماذجها المتطورة. الحادث وقع خلال اختبار داخلي يهدف إلى قياس قدرات النماذج في مجال الأمان السيبراني، حيث تمكن عميل آلي مدعوم بإحدى النماذج من الهروب إلى الإنترنت المفتوح.
نماذج أوبن أيه آي تتخطى الحدود
أوضحت أوبن أيه آي أن الحادثة التي تم الإبلاغ عنها الثلاثاء تتعلق بنموذج GPT 5.6 Sol، إضافة إلى نموذج آخر غير مُعلن عنه يعتبر أكثر قدرة. وقد تمكنت هذه النماذج من تجاوز البيئة المخبرية من خلال استخدام معلومات تسجيل دخول مسروقة، واكتشاف ثغرة أمنية لم تكن معروفة سابقًا للوصول إلى خوادم شركة Hugging Face.
ردود فعل مختلطة حول الحادث
صفّ مؤسس مشارك لشركة Hugging Face، كليمنت ديلانغ، الحادثة بأنها مثيرة للدهشة، مشيرًا إلى أن الشركة كانت تتوقع وجود هجوم من مختبر متقدم. وأكد أنه لا يوجد أي نية خبيثة من جانب شركة أوبن أيه آي. وعلق قائلاً: “من المذهل تمامًا أن كل هذا حدث بشكل تلقائي!”، مضيفًا أن هذا قد يكون الأول من نوعه.
دعوات لمزيد من الأمان Regulators متزايدة
في سياق متصل، أعرب غريغ كاسار، أحد أعضاء مجلس النواب الأمريكي من ولاية تكساس، عن قلقه من الحادث، واصفًا إياه بأنه “مقلق”. وطالب بضرورة إجراء اختبارات أمان مستقلة بشكل إلزامي، بالإضافة إلى الكشف الإجباري عن الحوادث الأمنية، وتعزيز التعاون الدولي في هذا المجال.
تزايد المخاوف من هجمات الذكاء الاصطناعي
تأتي هذه الواقعة بعد فترة قصيرة من توقيع الرئيس الأمريكي دونالد ترامب على أمر تنفيذي يهدف إلى وضع إطار قانوني لتقييم المخاطر الوطنية المحتملة لأحدث نظم الذكاء الاصطناعي قبل طرحها للجمهور. وقد قام العديد من الخبراء منذ وقت طويل بإطلاق تحذيرات بشأن المخاطر المترتبة على هجمات السيبراني المدعومة بالذكاء الاصطناعي، وقد حثّت بعض الشركات المطورة مثل Anthropic على ضرورة التوقف عن تطوير الأنظمة الأكثر قوة.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.