مخاطر جديدة لوكلاء الذكاء الاصطناعي في نظام أندرويد

كتبت: سلمي السقا

تتوالى التطورات في مجال الذكاء الاصطناعي، حيث تم الكشف مؤخرًا عن تطبيق أندرويد يتيح تنفيذ التعليمات بشكل خفي على نظام تشغيل الحاسوب المتصل به. يمكن للتطبيق، الذي يجري تنفيذ أوامره عن طريق واجهة برمجة التطبيقات، تتضمن خطوات نقله الأوامر من شاشة الهاتف إلى نظام الكمبيوتر دون أن تتمكن العين البشرية من رؤية تلك الأوامر.

يستعرض الباحثون الثغرات

قام فريق من الباحثين بإثبات أن هذا التطبيق يمكن أن يستغل عدة ثغرات عبر خمس منصات مفتوحة المصدر لوكلاء الهواتف المحمولة، وهي: AppAgent وAppAgentX وMobile-Agent-v3 وOpen-AutoGLM وMobA. وكشفت الاختبارات أن جميع الأنظمة المذكورة لم تصمد أمام ست من أصل سبع ثغرات تم اختبارها.

تكتيك الهجمات وأساليبها

تتضمن الهجمات المستخدمة في هذه الثغرات طريقة لتمرير نصوص تعليمية تتجاوز حماية التطبيق. نظرًا لأن تطبيق AppAgent يحتوي على موظفات لدخول الأوامر، فإن ذلك يُسهل تنفيذ أوامر على نظام الحاسوب. وقد أظهرت نتائج الاختبار أن تطبيقًا صُمم لتشغيل “calc.exe” استطاع إصابة الهدف في 20 من 20 اختبارًا.

طرق التحايل واستغلال الثغرات

أظهر الباحثون كيف يمكن وهْم وكيل الذكاء الاصطناعي بوجود نشاط شبكي مؤكد، مما يجعل النموذج يصدق ذلك وينتظر لثوانٍ معدودة. وقد أظهرت الاختبارات أن جميع النماذج المستخدمة قد تمكنت من قراءة نصوص ذات شفاف أقل من 2% في أكثر من 90% من تجارب المختبر.

تحديات في الأمان

يسلط الباحثون الضوء على مدى صعوبة حماية الأنظمة من هذه الأنواع من الهجمات. حيث إن جميع الأنظمة الخمس تعتمد على واجهات برمجة التطبيقات المفتوحة، وهو ما يخلق فجوات في الحماية. والمرونة التي توفرها هذه الأنظمة يمكن أن تكون مفتاحًا للمهاجمين.

تساؤلات حول استجابة المطورين

أشار الباحث الرئيسي إلى أن فريق البحث تواصل مع المطورين بصورة خاصة قبل نشر نتائج الدراسة. ومع ذلك، لم يتلقوا أي رد حتى الآن. وقد تبين أنهم أبلغوا عن المشكلة عبر البريد الإلكتروني، لكن دون وجود سياسة أمنية واضحة أو قناة محددة للإبلاغ عن الثغرات لديهم.

مستقبل الأمان في تقنيات الذكاء الاصطناعي

بينما تكشف هذه الهجمات عن نقاط الضعف في أنظمة الذكاء الاصطناعي، فإنها تثير تساؤلات حول كيفية تأمين هذه الأنظمة وكيفية التحقق من إجراءات السلامة. هناك حاجة ملحّة لتأمين نقاط الضعف وتعزيز الحماية ضد الهجمات المحتملة. هذا يتطلب جهودًا جماعية من المطورين والباحثين لخلق بيئة أكثر أمانًا.

يمكنك قراءة المزيد في المصدر.

لمزيد من التفاصيل اضغط هنا.