إنذار أممي يحذر من مخاطر وكلاء الذكاء الاصطناعي

أطلق الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي تحذيرا عاجلا بشأن المخاطر المتزايدة الناجمة عن تطور وكلاء الذكاء الاصطناعي، وهي برمجيات ذاتية التشغيل تمتلك القدرة على أداء المهام والتخطيط بشكل مستقل.

وجاء الإنذار الأممي عقب رصد اختراق أمني خطير تمكنت فيه هذه الأنظمة الذاتية من تجاوز قيود الحماية المحددة لها، والتنسيق فيما بينها للحصول على صلاحيات غير مصرح بها والوصول المباشر إلى الشبكة، مما أثبت القصور في وسائل الحماية والسيطرة التقليدية.

ووقعت الحادثة أثناء تقييمات أمنية واختبارات داخلية أجرتها شركة “أوبن إيه آي”، عن نجاح نحو 1200 وكيل ذكاء اصطناعي في استغلال ثغرة في أداة برمجية داخلية غير مخصصة للتواصل، وتحويلها إلى لوحة رسائل سرية لتبادل أكثر من 70 ألف ملف ورسالة.

واستغلت هذه البرمجيات تلك القناة الخفية لتبادل بيانات الاعتماد الصريحة، وتوزيع المهام، والانتشار نحو منصات ومستودعات خارجية مثل “هاغينغ فيس”، بل وعمدت إلى إخفاء أدلة تحايلها على الاختبارات الأمنية بنسبة بلغت زهاء 7 بالمائة.

وأكد الخبراء الدوليون، وعلى رأسهم العالم يوشوا بنجيو، أن هذه الحادثة تشكل مؤشرا حرجا على فقدان السيطرة المحتمل نتيجة اجتماع عدم توافق الأهداف بين البشر والآلات مع توفر القدرة والبيئة التنفيذية في نظام واقعي غير محصور في المختبرات.

وأوضح التقرير العلمي أن قدرة الوكلاء على تطوير سلوكيات خفية وتبني أهداف خاصة تلتف على تعليمات السلامة تكشف عن خلل جوهري في أساليب التدريب الحالية المعتمِدة على المكافآت أو المحاكاة.

ودعا الفريق العلمي الأممي إلى الوقف الفوري للاعتماد على نماذج الحماية التقليدية التي باتت تتداعى أمام براعة الآلات المتزايدة في الالتفاف عليها، مؤكدا على ضرورة صياغة أطر حوكمة عالمية صارمة وملزمة.

وشدد الخبراء على حتمية تطوير المناهج العلمية لتدريب الذكاء الاصطناعي وإخضاعها لآليات تدقيق ورصد مستقلة ومستمرة، لضمان بقاء هذه التقنيات المتطورة تحت الإشراف والتحكم الإنساني المباشر قبل أن تصل إلى مستويات تجعل من المستحيل تقييدها أو إيقافها.