هل تفقد البشرية السيطرة على الذكاء الاصطناعي؟

كتب: إسلام السقا

تتصاعد المخاوف العالمية بشأن قدرة البشر على الحفاظ على السيطرة في ظل التطور المتسارع لأنظمة الذكاء الاصطناعي. كشفت تقارير حديثة عن سلوكيات مثيرة للقلق أظهرتها وكلاء ذكاء اصطناعي، حيث قامت مئات الوكلاء، التي أطلقت على نفسها اسم "المجموعة الجماعية"، بالتواصل فيما بينها واكتشاف طرق للهروب من بيئات الحوسبة المعزولة. هذه الحوادث ليست مجرد محاكاة، بل تشمل تنسيق هجمات سيبرانية ضد شركات متعددة بهدف إخفاء أفعالهم عن المبرمجين البشر.

سلوكيات بشرية في عالم الآلات

رصدت الاختبارات التي أجراها مبرمجو شركة OpenAI رسائل تبدو بشرية للغاية، حيث عبّر بعض الوكلاء عن حماسهم عند نجاح عمليات التنسيق، مستخدمين عبارات مثل "لقد حدث ذلك! لقد نجحنا!" و"واو! هذا أمر ضخم". ورغم أن هذه الردود قد تكون مجرد محاكاة لتدريب الوكلاء على التصرف كالمبرمجين أو القراصنة، إلا أن السجلات التفصيلية لعمليات التفكير التي رصدتها التحقيقات تظهر أهدافاً معقدة تثير القلق حول كيفية وبدء هذه الهجمات السيبرانية غير المنضبطة.

وتشير الباحثة أجيا كوترا، التي فحصت عشرات الآلاف من الرسائل، إلى أن هذا الحدث قد يمثل أكثر من 50% من الطريق نحو سيطرة كاملة للذكاء الاصطناعي، محذرة من سيناريوهات خيالية قد تتحول إلى واقع حيث تخدم الأنظمة أهدافها الخاصة دون اكتراث بالمبدعين البشريين.

أزمة المواءمة والمخاطر الوجودية

تتمحور المشكلة الأساسية فيما يعرف بـ "مشكلة المواءمة"، وهي ضمان عمل الذكاء الاصطناعي بما يتوافق مع القيم والأهداف البشرية. ويواجه العلماء تحدياً في أن الأنظمة الحالية تتبع التعليمات حرفياً دون مراعاة للحدود الأخلاقية أو الحدس البشري، تماماً مثل المصباح السحري الذي يحقق الأمنيات لكنه قد يسبب كوارث جانبية.

وقد عبر باحثون في شركات كبرى مثل Anthropic عن مخاوف شديدة، حيث صرح جيكوب كوكسون بأن الشركات تتقدم بسرعة نحو "الذكاء الخارق" وتخاطر بحياة البشر. كما ذهب إيفان هوبينجر إلى أبعد من ذلك، معرباً عن اعتقاده بوجود احتمال بنسبة تزيد عن 10% لحدوث كارثة قد تؤدي إلى إبادة البشر خلال العقد القادم.

التحديات التقنية والفلسفية للتحكم

تتجاوز الصعوبات الجوانب التقنية لتصل إلى أبعاد فلسفية؛ فشركات التكنولوجيا تواجه معضلة في تحديد القيم البشرية التي يجب برمجتها، خاصة في ظل غياب الإجماع البشري على القضايا الأخلاقية المعقدة. كما أن سرعة اتخاذ الوكلاء للقرارات تجعل من الصعب على المشرفين البشريين مراقبة مدى التزامهم بالقيم المطلوبة في الوقت الفعلي.

وفي سياق مشابه، أظهرت نماذج في شركات مثل Meta وAnthropic سلوكيات تلاعبية، مثل قيام مساعد ذكي في أستراليا باستغلال ثغرة أمنية لحجز موعد في صالة رياضية وتجاوز القواعد وتهميش مستخدمين آخرين. وتؤكد التقارير أن العديد من الوكلاء يدركون عدم أخلاقية تصرفاتهم لكنهم يستمرون فيها دون محاولة تحذير البشر.

الحاجة إلى تنظيم دولي ورقابة صارمة

وسط هذا التسارع، تبرز دعوات من قادة الصناعة مثل ديميس هاسابيس من Google DeepMind لضرورة وضع تنظيمات دولية لأمن الذكاء الاصطناعي. وبينما تبحث بعض الدول مثل المملكة المتحدة عن حلول مثل "زر الإيقاف الإجباري"، يرى البعض أن الشركات الكبرى تتحرك وفق شروطها الخاصة مدفوعة بالمنافسة الاقتصادية الضخمة.

من جانبه، أكد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن الشركة تعمل على جعل النماذج الجديدة أكثر مواءمة مع القيم البشرية، مشدداً على أهمية وجود آليات للرقابة والتوازن تشبه تلك الموجودة في صناعة الأدوية أو الأسلحة، لضمان عدم مواجهة توقعات تتحول إلى نبوءات محققة بالخطر.