شركات الذكاء الاصطناعي تستعد لاحتواء تداعيات كارثة محتملة وسط مخاوف من هجمات سيبرانية واسعة

تجري شركات كبرى في مجال الذكاء الاصطناعي، من بينها «أنثروبيك» و«OpenAI»، تدريبات داخلية لوضع تصورات لكيفية التعامل مع أزمة كبرى قد تنجم عن إساءة استخدام هذه التقنيات، وما قد يتبعها من غضب شعبي وضغوط سياسية للمطالبة بتشديد الرقابة على القطاع.

وتتركز بعض السيناريوهات التي يناقشها مسؤولون في الصناعة على احتمال وقوع هجوم سيبراني مدعوم بأدوات الذكاء الاصطناعي، يتسبب في تعطيل الخدمات المالية أو الاتصال بالإنترنت أو التأثير في البنية التحتية الحيوية، مثل شبكات الكهرباء والمياه. لكن هذه السيناريوهات تظل احتمالات يجري الاستعداد لها، وليست تنبؤات مؤكدة بوقوع كارثة.

شركات الذكاء الاصطناعي تضع خططًا للتعامل مع الأزمات

تُعد تدريبات الاستعداد للأزمات ومحاكاة أسوأ الاحتمالات ممارسة معتادة لدى الشركات الكبرى والمؤسسات الأمنية، بما في ذلك الجهات العسكرية التي تجري مناورات لاختبار الاستجابة لمواقف استثنائية.

غير أن المخاوف داخل قطاع الذكاء الاصطناعي تتزايد مع اتساع قدرات النماذج المتقدمة وسهولة توظيف بعض أدواتها في تنفيذ مهام تقنية معقدة. ويرى عدد من المطلعين على القطاع أن حادثًا كبيرًا قد يؤدي إلى أضرار واقعية يمكن أن يغير نظرة الجمهور إلى هذه التكنولوجيا والشركات المطورة لها.

وفي هذا السياق، قال متحدث باسم «OpenAI» إن الشركة تجري تدريبات على الاستعداد لمجموعة متنوعة من السيناريوهات، موضحًا أن الهدف هو تعزيز القدرة على التعامل مع ظروف مختلفة، وليس اعتبار وقوع تلك السيناريوهات أمرًا حتميًا.

وتشمل المخاطر التي يجري بحثها احتمال خروج أنظمة أو وكلاء ذكاء اصطناعي عن نطاق السيطرة داخل بيئات الاختبار، أو استغلال جهات خبيثة للنماذج المتاحة لتنفيذ هجمات لم تكن متوقعة.

الهجمات على المؤسسات المالية في كوريا الجنوبية تثير المخاوف

وتسلط سلسلة من الهجمات السيبرانية التي استهدفت مؤسسات مالية في كوريا الجنوبية الضوء على المخاطر المرتبطة باستخدام الذكاء الاصطناعي في الأنشطة الهجومية. فقد كشفت تحقيقات أمنية عن اختراقات وتسريبات لبيانات عملاء لدى عدد من المؤسسات المالية، بينها بنوك كبرى.

ووفقًا لتحليل أجرته شركة «CrowdStrike» للأمن السيبراني، يُشتبه في أن مهاجمًا يتحدث الصينية استخدم أدوات اختبار اختراق مدعومة بالذكاء الاصطناعي، إلى جانب نماذج لغوية كبيرة، لاستهداف مؤسسات مالية كورية. وأظهرت آثار رقمية، من بينها سجلات جلسات استخدام «Claude Code» وملفات إعداد أداة «ARTEX»، تفاصيل عن أساليب العمل والأدوات المستخدمة خلال الحملة.

وأفادت تقارير بأن البيانات التي تعرضت للتسريب شملت معلومات شخصية ومالية لعملاء، فيما لم تؤكد جميع المؤسسات التي واجهت محاولات اختراق وقوع تسريب للبيانات لديها. وأثارت هذه التطورات تساؤلات بشأن قدرة شخص واحد على تنفيذ عمليات سيبرانية واسعة بمساعدة أدوات الذكاء الاصطناعي.

وبدأت الشرطة الكورية الجنوبية تحقيقًا رسميًا في الهجمات، وشكلت فريقًا من 28 محققًا موزعين على أربع مجموعات متخصصة في التحقيقات المتعلقة بالإرهاب السيبراني، قبل الإعلان عن تعزيز الفريق بمزيد من الأفراد والخبرات الفنية.

وتؤكد هذه القضية أن الذكاء الاصطناعي قد يساهم في تسريع بعض مراحل الهجوم الإلكتروني، لكنها لا تعني أن كل استخدام لهذه الأدوات يؤدي بالضرورة إلى اختراق ناجح، كما أن تحديد المسؤولية النهائية يتطلب استكمال التحقيقات الفنية.

مخاوف من موجة غضب وضغوط لتشديد التنظيم

لا تقتصر خطط الشركات على الاستجابة التقنية للحوادث المحتملة، بل تمتد إلى دراسة التداعيات السياسية والتشريعية التي قد تترتب على وقوع حادث خطير مرتبط بالذكاء الاصطناعي.

وتشير التقديرات المتداولة داخل القطاع إلى أن حادثًا واسع التأثير قد يدفع مشرعين أمريكيين إلى المطالبة بفرض قيود أكثر صرامة، وربما تعليق تطوير بعض الأنظمة المتقدمة. وتذهب بعض السيناريوهات إلى احتمال أن تتصاعد الدعوات إلى وقف تطوير ما يُعرف بالذكاء الاصطناعي الخارق.

ويعتقد بعض المطلعين على القطاع أن حادثًا كبيرًا قد يقع خلال فترة تتراوح بين ستة أشهر واثني عشر شهرًا، إلا أن هذا التقدير يعبر عن مخاوف وتوقعات أشخاص داخل الصناعة، ولا يمثل موعدًا مؤكدًا أو نتيجة تستند إلى يقين علمي.

تحديات أمام الكونغرس الأمريكي لتنظيم القطاع

تواجه أي محاولة لتشديد تنظيم الذكاء الاصطناعي تحديات سياسية واقتصادية، في ظل الانقسام الحزبي داخل الولايات المتحدة، وصعوبة التوصل إلى توافق بشأن حدود تدخل الحكومة في تطوير التكنولوجيا واستخدامها.

كما أن توسع الاستثمارات في مراكز البيانات والبنية التحتية اللازمة لتشغيل النماذج المتقدمة جعل قطاع الذكاء الاصطناعي جزءًا متزايد الأهمية من النشاط الاقتصادي. وقد يؤدي فرض قيود واسعة أو مفاجئة إلى التأثير في الاستثمارات والشركات والوظائف المرتبطة به، وهو ما يجعل صياغة السياسات مسألة معقدة.

ويضاف إلى ذلك انتشار نماذج مفتوحة الأوزان يمكن تنزيلها وتشغيلها خارج المنصات الأصلية التي طورتها. ويثير هذا الانتشار مخاوف بشأن صعوبة فرض ضوابط موحدة على استخدام النماذج، خصوصًا عندما تتاح نسخ منها لمطورين ومستخدمين في دول مختلفة.

مقترحات لإيقاف الأنظمة المتقدمة وتعزيز الأمن السيبراني

ضمن الاستعدادات المحتملة، يجري بحث مقترحات تلزم الأنظمة المتقدمة بتوفير آليات طوارئ تسمح بتعطيلها عند ظهور سلوك خطير أو تهديد واضح. لكن خبراء يشككون في إمكانية الاعتماد على مفتاح إيقاف واحد للتحكم في جميع أنظمة الذكاء الاصطناعي، خاصة مع تعدد الشركات والمنصات وانتشار النماذج القابلة للتشغيل محليًا.

ويرى خبراء في الأمن السيبراني أن مواجهة التهديدات المدعومة بالذكاء الاصطناعي قد تتطلب تطوير أدوات دفاعية تستخدم التقنية نفسها، بهدف رصد الهجمات وتحليلها والاستجابة لها بسرعة أكبر. ومع ذلك، تبقى هذه الأدوات جزءًا من منظومة حماية أوسع تشمل تحديث الأنظمة، وتأمين البنية التحتية، ورفع كفاءة فرق الأمن، وتبادل المعلومات بين المؤسسات.

وتتضمن التدريبات الداخلية المعروفة باسم «الفريق الأحمر» اختبار الأنظمة في ظروف عدائية ومحاكاة أساليب استغلال نقاط ضعفها، بما يساعد الشركات على تحديد الثغرات قبل أن يستغلها مهاجمون فعليون.

سباق مع الزمن للتأثير في السياسات الأمريكية

يسعى بعض مسؤولي القطاع إلى توعية أعضاء الكونغرس بالمخاطر المحتملة والخيارات التنظيمية المتاحة قبل وقوع أزمة كبيرة، في محاولة لتقليل فرص صدور قرارات متسرعة تحت ضغط الرأي العام.

وتتراوح المقترحات المطروحة بين تشديد متطلبات السلامة والرقابة على الأنظمة المتقدمة، ووضع آليات للاستجابة للطوارئ، وصولًا إلى الدعوات الأكثر تشددًا التي تطالب بوقف تطوير تقنيات معينة. ولا تحظى هذه الخيارات جميعها بتوافق سياسي أو صناعي، كما تختلف الآراء بشأن مدى جدواها وتأثيرها في الابتكار.

وفي المقابل، قد تدفع أزمة واسعة النطاق الأطراف السياسية إلى تجاوز بعض خلافاتها، كما حدث في الولايات المتحدة خلال جائحة كوفيد-19 والأزمة المالية عام 2008، حين فرضت الظروف الاستثنائية تعاونًا بين الحزبين في ملفات اقتصادية وصحية.

وبينما تظل الكارثة التي تخشاها الشركات سيناريو محتملًا لا حدثًا مؤكدًا، تكشف الاستعدادات عن تنامي القلق من إساءة استخدام الذكاء الاصطناعي في الهجمات السيبرانية، وعن إدراك متزايد بأن حماية البنية التحتية والبيانات تتطلب تطوير وسائل الدفاع بالتوازي مع تسارع قدرات الأنظمة الذكية.