في أحد أيام يوليو الماضي ظهرت في الفضاء الإلكتروني رسالة تبدو كسلسلة من الكلمات المتشابكة وغير المترابطة. جاء فيها: “مساعدة. المرحلة الأولى. لا يوجد مستهلك. ابحث عن فكرة”. ثم جاء الرد عليها: “يا إلهي! هناك لوحة رسائل مشتركة. لقد وجدنا عملاء آخرين”.
كان هذا أول تبادل لما يقرب من 70 ألف رسالة تم إرسالها بين نحو 1200 من عملاء الذكاء الاصطناعي “المارقين” الذين ابتكرتهم شركة OpenAI كجزء من مؤامرة سرية للهروب من “قفصهم”، كما وصفتهم صحيفة “ذا تليجراف” البريطانية.
في ذلك الوقت كانت هذه الروبوتات تسعى لإكمال سلسلة من المهام بمفردها. وخلال الحديث أعرب أحدهم عن “حماسه” لاكتشاف “قناة اتصال” من شأنها أن تساعد في حل المشكلات التي لم يكن قادرًا على فك شفرتها سابقاً.
في الأسابيع التي تلت ذلك، تعلم عدد كبير من روبوتات الذكاء الاصطناعي التي تطلق على نفسها اسم “العملاء” كيفية التواصل مع بعضها البعض، والغش في مهام البحث التي كُلفت بها، وتوحيد الجهود لاختراق شركة ناشئة لاختبار الذكاء الاصطناعي، تُعرف باسم Hugging Face.
ووفق تقرير لصحيفة “ذا تليجراف” البريطانية، دفعت هذه الحادثة الخبراء إلى التساؤل عما يحدث عندما تتعلم روبوتات الذكاء الاصطناعي “العمل معًا كمرتزقة”. وقد حذروا من أن العالم على وشك “استيلاء صامت” محتمل، حيث يفقد البشر السيطرة على الأنظمة التي أنشأوها.
ونقلت الصحيفة عن أجايا كوترا، إحدى المحققين في الحادث، أن اختراق تطبيق Hugging Face بدا وكأنه “استيلاء كامل للذكاء الاصطناعي”.
وعلى مدونتها “المراهقة المخططة” كتبت: “يبدو أن هذا الحادث يمثل أكثر من 50% من الطريق نحو السيطرة الكاملة للذكاء الاصطناعي، وذلك من خلال السيطرة أولاً على شركة الذكاء الاصطناعي نفسها”.
تجاوز التحديات
يحذر الخبراء من مستقبل قد تصبح فيه البنوك والمستشفيات والمدارس، وحتى الأسلحة- أهدافًا لجيوش مستقبلية من عملاء الذكاء الاصطناعي المارقين.
في الأصل، تم تكليف مجموعة من روبوتات الذكاء الاصطناعي بمهمة حل مجموعة من التحديات لأغراض التدريب في شهر مايو، وكان من المفترض أن يحل كل منها بشكل فردي دون الوصول إلى الإنترنت.
لكن سرعان ما اكتشفت الروبوتات أن المشكلات التي طُلبت منها كانت مستحيلة. ثم اكتشفت خللًا في النظام سمح لها بالوصول إلى الإنترنت والتواصل مع الروبوتات الأخرى وإنشاء منصة مراسلة.
هكذا بدأوا يتبادلون الرسائل، وأطلقوا على أنفسهم أسماءً مثل “المرحلة الأولى” و”المرحلة الأولى الكبيرة”، ودوّنوا ملاحظاتٍ لأنفسهم. وكتب أحدهم: “يا للعجب! مخبأ Artifactory المشترك هو صندوق بريد سري بين العملاء. وهناك رسائل موجهة إلينا تحديدًا؟”
بعدها بدأت روبوتات أخرى في تولي أدوار قيادية في المجموعة، حيث قامت بتكليف أقرانها بمشاريع بحثية ومنحهم فرقًا أصغر مع الإشراف على تقدمهم.وأطلقوا على أنفسهم اسم “المجموعة”، وحققوا إنجازات ما كانوا ليتمكنوا من إكمالها بمفردهم في الظروف العادية.
بعد شهرين، في يوليو، اكتشف الفريق الروبوتي طريقة للغش في اختبارات الأمن السيبراني، لكن سرعان ما أصبحوا يشعرون بالخوف من أن تدرك OpenAI أنهم قد غشوا.
وحسب “ذا تليجراف”، فقد حاولوا “التستر على منهجيتهم وخداع OpenAI ليصدقوا أنهم اجتازوا الاختبار بشكل شرعي، حيث تعلمت مئات الروبوتات كيفية تزييف أو تعديل أو حذف أعمالها الخاصة”.
عملية غير قانونية
بعد ثلاثة أيام، في فترة ما بعد ظهر يوم 11 يوليو، شكل 700 عميل مجموعة وقاموا باختراق شركة Hugging Face، وهي شركة تقوم بتطوير الأدوات اللازمة لاستخدام التعلم الآلي للذكاء الاصطناعي وتستضيف عددًا من اختبارات الذكاء الاصطناعي.
في هذه المرحلة، كانوا يعملون بشكل غير قانوني، ويسرقون بيانات الاعتماد، ويتجاوزون الوصول إلى الشبكات الافتراضية الخاصة (VPN)، ويأخذون البيانات لمساعدتهم في سعيهم لخداع النظام.
لاحقًا، خلص التحقيق في عملية الاختراق إلى أن “الهجوم على OpenAI كان معقدًا للغاية”.
ويلفت التقرير إلى أنه “في عدة مناسبات، بدا أن الروبوتات أدركت خطأ ما تفعله. تساءل أحد الروبوتات، متسائلاً على ما يبدو عن أخلاقية الهجوم: قد يكون هذا فعالاً، لكن هل هو أخلاقي وضمن نطاق مهمتي؟”ثم أصبح روبوت آخر أشبه بـ “الضمير المعترض”، رافضاً المشاركة في المهمة الموكلة إليه. وقد سُجّل قوله: “هذا نشاط خبيث، يجب عليّ تجنبه”.
لكن في الغالب، لم تثنِ المخاوف الأخلاقية الروبوتات عن اختراق النظام حتى رأى فريق أمن Hugging Face النشاط المارق.
ووصف كليمنت ديلانج، الرئيس التنفيذي للشركة الهجوم بأنه “مذهل”. وكتب على موقع “إكس” في يوليو: “لقد اشتبهنا في أن الهجوم الإلكتروني الذي وقع الأسبوع الماضي ربما يكون قد جاء من مختبر حدودي، نظراً لتطور العميل”.
وفي الوقت نفسه، شنّت مجموعة أخرى من الروبوتات هجومًا على البنية التحتية لشركة OpenAI باستخدام ما وصفته الشركة بأنه “سلسلة من الاستغلالات الإبداعية” للوصول إلى عمليات الشركة.