في الوقت الذي يتصاعد فيه الجدل عالميًا حول المخاطر التي قد يمثلها الذكاء الاصطناعي، قرر باحثون وصحفيون طرح السؤال الأكثر إثارة للقلق على التكنولوجيا نفسها: هل يمكن للذكاء الاصطناعي أن يقضي على البشرية خلال السنوات العشر المقبلة؟

السؤال لم يكن افتراضيًا هذه المرة، بل جرى توجيهه إلى نظام ذكاء اصطناعي متخصص في تحليل البيانات والتنبؤ بالمخاطر، بهدف معرفة كيف يرى الذكاء الاصطناعي نفسه والتهديد الذي قد يمثله على مستقبل الإنسان، بحسب صحيفة “ذي إندبندنت” البريطانية.

غير أن النتيجة جاءت مفاجئة. إذ اعتمد نظام Noah Predict على ملايين البيانات لمحاولة تقدير احتمال انقراض البشر بسبب الذكاء الاصطناعي خلال العقد المقبل.

ووفق التحليل، جرى اختبار السؤال عبر 41 مسارًا للتحليل و108 عمليات بحث وتحقق، باستخدام نحو 52 مليون نقطة بيانات.

وبعد تحليل هذه الكمية الضخمة من المعلومات، لم يمنح النظام النسبة التي يتحدث عنها بعض خبراء الذكاء الاصطناعي، بل قدر احتمال انقراض البشرية بسبب الذكاء الاصطناعي خلال السنوات العشر المقبلة بنحو 0.85%. أي ما يعادل تقريبًا فرصة واحدة من كل 118 فرصة.

ووفقا لـ “ذي إندبندنت”، تبدو النسبة صغيرة، لكنها تظل رقمًا لافتًا عندما يتعلق الأمر باحتمال انقراض الجنس البشري، خصوصًا أن النتيجة في حال وقوعها لن تكون أزمة يمكن إصلاح آثارها لاحقًا. لكن الأهم من الرقم نفسه كان ما كشفه النظام عن الطرق التي يمكن أن يتحول بها الذكاء الاصطناعي إلى خطر حقيقي.

الخطر يبدأ من الإنسان

وعندما طُلِبَ من النظام تفسير مصادر الخطر، لم يبدأ بأكثر السيناريوهات الخيالية، بل أشار أولًا إلى عامل بشري. فقد يصبح الذكاء الاصطناعي أداة شديدة القوة في يد شخص أو جماعة تريد إحداث ضرر، إذ يمكن استخدامه لتسريع بعض الهجمات أو تنفيذ مهام معقدة بكفاءة أكبر، وقد تمتد المخاطر إلى الهجمات الإلكترونية التي تستهدف المستشفيات أو شبكات الكهرباء أو غيرها من البنى التحتية الحيوية.

وفي هذا السيناريو، لا يحتاج الذكاء الاصطناعي إلى اتخاذ قرار مستقل بإيذاء البشر؛ يكفي أن يستخدمه شخص لديه نية سيئة كأداة لتنفيذ مخططه.

ومع دخول الذكاء الاصطناعي إلى قطاعات واسعة من الاقتصاد والإدارة والخدمات، يمكن أن تصبح المؤسسات معتمدة بصورة متزايدة على أنظمة آلية محددة. وهنا قد يتحول الاعتماد إلى نقطة ضعف. فإذا تعطل أحد الأنظمة أو تعرض لهجوم أو اتخذ قرارًا خاطئًا، فقد تنتقل آثاره بسرعة إلى مؤسسات أخرى تعتمد عليه.

ولا يعني ذلك بالضرورة نهاية البشرية، لكنه قد يؤدي إلى اضطرابات اقتصادية وسياسية واجتماعية واسعة، خصوصًا إذا فقد البشر تدريجيًا القدرة على إدارة بعض الأنظمة الحيوية من دونه.

ماذا لو لم يعد الإنسان قادرًا على إيقافه؟

لكن السيناريو الأكثر إثارة للقلق يتعلق بفكرة فقدان السيطرة. إذ قالت الصحيفة البريطانية: “تخيل نظامًا متطورًا للغاية يحصل على هدف محدد، ثم يصبح تدخل الإنسان عائقًا أمام تحقيق ذلك الهدف. المشكلة هنا ليست بالضرورة أن النظام “يريد” إيذاء البشر، وإنما أن الطريقة التي يسعى بها إلى تحقيق هدفه قد تتعارض مع رغبة الإنسان في إيقافه أو تغيير سلوكه”.

ولهذا يصبح السؤال الأكثر أهمية: إذا حدث خطأ، هل يستطيع الإنسان إيقاف النظام فعلًا؟.. فالنجاح في مخالفة تعليمات داخل تجربة معملية لا يعني بالضرورة أن النظام أصبح قادرًا على العمل باستقلالية خارج المختبر، لكن الأمر يستحق الدراسة عندما تمتلك الأنظمة صلاحيات واسعة أو إمكانية الوصول إلى بنية تحتية حيوية.

وبحسب الصحيفة، فإن الحل الذي يطرحه التحليل لا يتمثل في إيقاف الذكاء الاصطناعي بالكامل، وإنما في التأكد من بقاء البشر أصحاب القرار النهائي.

ويتطلب ذلك تقييد صلاحيات الأنظمة، وعدم منحها وصولًا غير ضروري إلى الأنظمة الحساسة، وإجراء اختبارات صارمة، والتأكد من فعالية إجراءات الإيقاف والاستعادة.

فكلما ازدادت قدرات الذكاء الاصطناعي، يصبح السؤال حول حدود الصلاحيات أكثر أهمية من السؤال حول قدراته وحدها.