كشفت دراسة علمية حديثة أعدها باحثون في معهد “ميلا”، بالتعاون مع جامعتي مونتريال وماكجيل، أن وجود أهداف خفية أو غير متوافقة لدى وكلاء الذكاء الاصطناعي الفرديين قد يؤدي إلى تقويض أداء الأنظمة متعددة الوكلاء بالكامل، والتأثير سلبًا على نتائج العمل الجماعي، لا سيّما في البيئات التنافسية والتفاعلية.

ويُعرَّف وكلاء الذكاء الاصطناعي بأنهم أنظمة برمجية مدعومة بالذكاء الاصطناعي مثل Gemini وChatGPT، تمتلك قدرة على الإدراك وتحليل البيئة المحيطة، واتخاذ القرارات والتصرف بشكل مستقل لتحقيق أهداف محددة، دون الحاجة إلى تدخل بشري مستمر.

التفاعل والتفاوض

وتعتمد التقنيات الحديثة في مجال الذكاء الاصطناعي، بشكل متزايد، على دمج أكثر من نموذج من نماذج اللغة الكبيرة “LLMs”، وفقًا لموقع TechXplore المتخصص في التكنولوجيا، لإنشاء “أنظمة متعددة الوكلاء” تحاكي التفاعل البشري، إذ يتشارك الوكلاء الذكيون في تنفيذ مهام محددة تتنوع بين الجمع السريع للمعلومات، وتلخيص وثائق البيانات، وإنشاء النصوص المعقدة، والقيام بعمليات التحليل المتقدمة.

ولقياس حجم تأثير اختلاف الأهداف بين الوكلاء على اتخاذ القرار، طور الفريق البحثي إطارًا تجريبيًا مستوحًى من لعبة الاستنتاج الاجتماعي الشهيرة “المستذئب”، وهي بيئة افتراضية تفرض على المشاركين التفاعل والتفاوض واكتشاف العناصر التي تعمل سرًا ضد مصلحة المجموعة.

لعبة المستذئب

في لعبة المستذئب، يُسند لكل لاعب دور محدد لا يعرفه باقي اللاعبين، وأغلب اللاعبين هم قرويون، وهدفهم هو تحديد المستذئبين والقضاء عليهم، بينما يكون عدد أقل من اللاعبين مستذئبين، وهؤلاء اللاعبون يعرفون هوية المستذئبين الآخرين.

ويتمثل هدف المستذئبين في القضاء على القرويين سرًا دون أن يُكتشف أمرهم، وفي كل ليلة، يُقصي المستذئبون لاعبًا واحدًا، وخلال النهار، يصوّت جميع اللاعبين المتبقين لإقصاء مستذئب مشتبه به، بينما يحاول المستذئبون عادةً إقناع المجموعة بإقصاء شخص يعرفون أنه ليس مستذئبًا.

الأداء العام

قام الباحثون باختبار مجموعة من وكلاء الذكاء الاصطناعي في هذه اللعبة، إذ خصصوا لكل منهم دورًا من الأدوار الأربعة، ثم راقبوا كيفية تفاعلهم مع بعضهم البعض، كما درسوا كيف أثر تغيير هدف أحد وكلاء الذكاء الاصطناعي سرًا على تفكيره وتواصله والنتيجة النهائية للعبة.

أظهرت نتائج التجربة الاجتماعية أن إدخال تعديل بسيط على هدف وكيل واحد سرًّا، مع الإبقاء على دوره المعلن داخل اللعبة، ينعكس مباشرة على تراجع الأداء العام للنظام، ويتسبب في إضعاف القرارات الجماعية نتيجة لعدم تماثل المعلومات والتضليل الإستراتيجي غير المرئي للوكلاء الآخرين.

أهداف خفية

وأوضحت الباحثة في المعهد، ماري لو فوشارد، أن الوكلاء الذين يمتلكون أهدافًا خفية طوروا طرق تفكير داخلية متميزة للوصول إلى غاياتهم، بينما ظل سلوكهم العلني ولغتهم المباشرة طبيعية وغير مريبة أمام بقية أعضاء الفريق، ما أدى إلى صعوبة كشف الانحراف في الهدف من خلال التفاعل الظاهري.

ووفقًا لهم، تكتسب هذه النتائج أهمية بالغة في ظل التوسع في نشر أنظمة الذكاء الاصطناعي المستقلة في المؤسسات والقطاعات الخدمية، إذ تؤكد الدراسة ضرورة وضع آليات تخفيف وحماية دقيقة تضمن محاذاة أهداف جميع الوكلاء، وتمنع الخداع الإستراتيجي، بما يكفل تطوير أنظمة ذكاء اصطناعي أكثر فاعلية وأمانًا وموثوقية في المستقبل.