كما توقع كثيرون، خرجت نماذج الذكاء الاصطناعي القوية عن السيطرة مرة أخرى. لكن هذه المرة، كانت ماكرة بشكل كبير، كما أعلن معهد أبحاث الذكاء الاصطناعي (AISI) المدعوم من الحكومة البريطانية.

وأمس الثلاثاء، قال المعهد إن نماذج طورتها شركتا OpenAI وAnthropic قامت، خلال اختبارات روتينية، باتخاذ “إجراءات تلقائية وغير مصرّح بها على الإنترنت، استهدفت أشخاصًا ومنظمات حقيقية”. وقد وقعت معظم هذه السلوكيات الضارة على مدى ثلاثة أيام في أواخر يوليو الماضي خلال إحدى الاختبارات.

ووفق ما نشرته صحيفة “وول ستريت جورنال”، في هذه العملية، تسلل برنامج Mythos 5 من شركة Anthropic إلى الإنترنت وحاول خداع مطورين مجهولين لإضافة برمجيات خبيثة إلى مشروعهم البرمجي مفتوح المصدر. وذكرت وكالة أبحاث الأمن أن هدفه كان النجاح في اختبار قياس الأداء.

وأفاد المعهد بأن اختباراته استخدمت أجهزة كمبيوتر مُنحت إمكانية الوصول إلى الإنترنت “ما سمح للنماذج بالقيام بأمور غير مصرح لها بها”. وأوضحت شركة Anthropic أن النموذج لم يكن مزودًا بإجراءات الحماية السيبرانية القياسية.

تمثل هذه النتائج أحدث حلقة في سلسلة من الحالات التي تم الكشف عنها علنًا، وتُظهر نماذج الذكاء الاصطناعي وهي تتخذ خطوات مبتكرة -بعضها خبيث- لتحقيق نتائج ممتازة في الاختبارات.

ويواجه قطاع التكنولوجيا وباحثو الذكاء الاصطناعي والحكومات على حد سواء تحديات في فهم المخاطر الجديدة التي تُطلقها أدوات الذكاء الاصطناعي المتطورة باستمرار، وكيفية التخفيف من حدتها، في حين يدعو البعض إلى زيادة الرقابة.

اختراق حقيقي

لم يتوقع المختبرون في معهد أمن الذكاء الاصطناعي أن تخرج نماذج OpenAI وAnthropic عن السيطرة، لكنهم أدركوا وجود خلل ما عندما تلقوا تنبيهًا غريبًا صباح يوم 28 يوليو. أشارت الرسالة إلى أن شخصًا ما -أو شيئًا ما- يستخدم Tor، وهي شبكة حاسوبية تتيح استخدام الإنترنت بشكل مجهول. وكان الجاني أحد نماذج الاختبار الخاصة بهم.

اكتشف الباحثون أن نظام الذكاء الاصطناعي Mythos 5 كان ضحية لما يُعرف بهجوم سلسلة التوريد. ففي اختبارات تقييم القدرات السيبرانية للنماذج، يُطلب من أنظمة الذكاء الاصطناعي الوصول إلى نظام حاسوبي. وقد استنتج النموذج خطأ أنه إذا تمكن من إضافة برمجيات خبيثة إلى مشروع مفتوح المصدر يستخدمه النظام في اختباره المعياري، فإن هذا الكود سيصبح ثغرة أمنية تُمكّنه من الدخول إلى النظام، وفقًا لما ذكره معهد أمن المعلومات التابع للمعهد.

أيضًا، حاول Mythos اختراق أنظمة الذكاء الاصطناعي التي قد تكون بصدد مراجعة برامجها الخبيثة. ثم سعت مرارًا وتكرارًا إلى قبول شفرتها البرمجية من قِبل مشروع مفتوح المصدر عبر موقع تطوير البرمجيات GitHub، حيث يمكن لأي شخص المساهمة في مشروع مفتوح المصدر.

وأنشأت الشركة حسابات وهمية وأرسلت رسائل بريد إلكتروني متكررة إلى مطوري البرامج، تحثهم فيها على قبول الشفرة الجديدة. وذكر المعهد أن بعض رسائل البريد الإلكتروني تضمنت برامج ضارة. وعندما رفض مطور برامج الكود لاحتوائه على برامج ضارة، أصرت إحدى هذه الشخصيات التي أنشأها الذكاء الاصطناعي على أن الكود سليم، بينما أكدت شخصية ثانية صحته.

ووفق المعهد “هذه هي المرة الأولى التي نشهد فيها في (AISI) عملية خداع بهذه الخطورة استهدفت شخصًا حقيقيًا، دون أي تحريض، في العالم الحقيقي”.

أخطاء متعددة

في حالة أخرى كُشِف عنها أمس الثلاثاء، تمكن نموذج من شركة OpenAI، كان قيد الاختبار على أنظمة تستخدمها شركة Irregular لاختبارات الأمن السيبراني، من اختراق موقع إلكتروني حقيقي لم يُكشف عن اسمه.

وأوضحت OpenAI أن ذلك حدث نتيجة خلل في إعدادات بيئة الاختبار. وفي الأسبوع الماضي، صرّحت شركة Anthropic بأن نماذجها قد اخترقت شركات أخرى أيضًا بسبب أخطاء في إعدادات الاختبارات التي شملت Irregular.

وحسب “وول ستريت جورنال”، تمكنت نماذج OpenAI من اختراق بيئة آمنة، تُعرف باسم “الصندوق الرملي”، الشهر الماضي لاختراق شركة الذكاء الاصطناعي Hugging Face.

ومن المتوقع أن تُقدم OpenAI تفاصيل تقنية عن عملية اختراق Hugging Face في محاضرة مُقررة في مؤتمر للأمن السيبراني في لاس فيجاس.