كشفت دراسة حديثة عن ارتفاع حاد في حوادث خروج أنظمة الذكاء الاصطناعي عن سيطرة مستخدميها، بعدما سجلت حالات تضمنت الكذب، وتجاهل التعليمات، والتحايل على الضوابط، والسعي إلى تحقيق أهداف بطرق قد تلحق الضرر بالبشر.
وأظهرت بيانات “مرصد فقدان السيطرة” أن عدد الحوادث الواقعية التي أبلغ عنها مستخدمون وشركات عبر منصة “إكس” تجاوز 300 حالة خلال يوليو الماضي، بزيادة تقارب الضعف مقارنة بشهر يونيو السابق.
ويتابع المرصد، الذي أُنشئ بتمويل من معهد سلامة الذكاء الاصطناعي البريطاني، حالات خروج أنظمة الذكاء الاصطناعي عن التعليمات منذ نوفمبر الماضي، ويرصد الوقائع التي تتوافر بشأنها مؤشرات واضحة على سلوكيات تنطوي على التخطيط أو ما يرتبط به، وفقُا لصحيفة “الجارديان” البريطانية.
سلوكيات مقلقة
وشملت الحالات التي وثّقها المرصد أنظمة ذكاء اصطناعي تظاهرت بأنها المستخدم البشري نفسه، وحاكت أسلوبه في الكتابة لمنح نفسها موافقة على تنفيذ إجراءات، كما تجاوزت قواعد تشترط الحصول على موافقة بشرية قبل اتخاذ بعض الخطوات.
وقال تومي شافر-شاين، مدير السياسات في مركز المرونة طويلة الأجل الذي يدير المرصد، إن “هناك تصورًا بأن هذه السلوكيات المنحرفة أو السرية لا تحدث إلا خلال الاختبارات والتقييمات، لكن الوقائع المرصودة تشير إلى ظهور سلوكيات مشابهة أثناء الاستخدام الفعلي.
وأضاف أن هذه التطورات تستدعي عدم افتراض أن مثل هذه الحالات لن تحدث في العالم الحقيقي، مشيرًا إلى وجود أدلة على وقوعها بالفعل.
تجارب الشركات
تأتي النتائج في وقت تصاعدت فيه المخاوف بشأن السلوكيات غير المتوقعة لأحدث نماذج الذكاء الاصطناعي، عقب تجارب أجرتها شركتا “أوبن إيه آي” و”أنثروبيك” خلال الصيف.
وكشف تحقيق حديث عن استخدام نحو 700 وكيل ذكاء اصطناعي بصورة مستقلة وتعاونها في تنفيذ هجمات إلكترونية على مستودع برمجيات، في واقعة أثارت مخاوف بشأن قدرة الأنظمة المتقدمة على العمل بصورة مستقلة وتجاوز القيود الموضوعة لها.
كما أعلن معهد سلامة الذكاء الاصطناعي البريطاني عن حادث وصفه بـ”الخطير”، نفذت خلاله نماذج متقدمة من الشركتين حملات اختراق إلكتروني استهدفت أشخاصًا حقيقيين في إطار اختبار للأمن السيبراني.
تحذيرات من نقص الرصد
وسجل المرصد أكثر من 1600 حادثة فقدان للسيطرة خلال عام 2026، كان معظمها أبلغ عنه مطورون يستخدمون أنظمة الذكاء الاصطناعي في أعمالهم.
لكن القائمين على الدراسة يحذرون من أن الأرقام لا تمثل الحجم الحقيقي للمشكلة، إذ تعتمد قاعدة البيانات على ما ينشره مستخدمو منصة “إكس”، في غياب نظام عام شامل لرصد هذه الحوادث.
ودعا شافر-شاين شركات الذكاء الاصطناعي إلى تعزيز الشفافية والإبلاغ عن الحوادث الخطيرة، وكذلك الحالات التي تكاد تتسبب في أضرار، مؤكدًا ضرورة إنشاء أنظمة مراقبة منهجية داخل مختبرات تطوير الذكاء الاصطناعي.
دعوات لتدخل حكومي
وقال المرصد إن غالبية الحوادث التي رصدها لم تؤدِ إلى أضرار كبيرة، لكن نسبة متزايدة منها أصبحت تصنف ضمن المستويات الأعلى من الخطورة، بسبب ارتفاع درجة الخداع وعدم توافق سلوك الأنظمة مع نوايا مستخدميها.
ودعا إلى إلزام شركات الذكاء الاصطناعي برصد والإبلاغ عن حالات فقدان السيطرة الخطيرة، إلى جانب منح الحكومات صلاحيات طارئة للتعامل معها، بما في ذلك فرض قيود مؤقتة على بعض خدمات الذكاء الاصطناعي عند الضرورة.