حذر باحثان بارزان في الذكاء الاصطناعي، يعملان بأحد أهم الشركات العملاقة في هذا المجال، من أن مطوري الذكاء الاصطناعي باتوا يعتقدون بصدق أن هناك احتمالات بأن تتمكن التقنيات من قتل جميع البشر والقضاء عليهم بحلول نهاية العقد.
قبل ساعات، أعلن جاكوب كوكسون، الباحث البارز في شركة أنثروبيك – التي طورت برنامج كلود الشهير -، استقالته من الشركة ومغادرته هذا المجال، بحسب شبكة إذاعة أستراليا، وشارك في منشورات عديدة مخاوفه بشأن سباق شركات التكنولوجيا العملاقة لبناء أنظمة ذكية قادرة على تطوير نفسها.
نهاية العقد
وعمل الباحث المستقيل، البالغ من العمر 27 عامًا، ويحمل شهادة في الرياضيات، في المرحلة المحورية من تطوير هذه التقنية المعروفة باسم “التدريب المسبق”، وهي المرحلة التي يقوم فيها الحاسوب بتحصيل كميات هائلة من المعلومات من الإنترنت والعالم؛ لاكتساب قدراته الفكرية.
شارك جاكوب مخاوفه بشأن سباق شركات التكنولوجيا العملاقة لبناء أنظمة ذكية قادرة على تطوير نفسها، في العديد من المنشورات عبر صفحاته، مؤكدًا أنها قد تخرج عن السيطرة وتؤدي إلى فناء البشرية، ويعتقد مطورو الذكاء الاصطناعي بصدق أن ذلك يمكن أن يحدث بحلول نهاية العقد.
الذكاء الخارق
قبل انضمامه إلى شركة أنثروبويك، في وقت سابق من هذا العام، شغل كوكسون المنصب نفسه في شركة أوبن إيه آي المنافسة، وهي الشركة المطورة لتقنية تشات جي بي تي، وفي رسائله، هاجم كوكسون الشركتين ووصفهما بأنها لا يتصرفات بمسؤولية، ويتسابقون مباشرة نحو الذكاء الخارق ذاتي التطوير.
حذر كوكسون من أن تلك التقنيات ستُحدِث ثورة في حياتنا، موضحًا أنه لا ينبغي الاستهانة بقوة التكنولوجيا، لافتًا إلى أنها ستتجاوز أنظمة البشر قريبًا، ويمكنها اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، وتجميع قوة وموارد حقيقية.
السلامة البشرية
ينبع القلق الرئيسي من التحول إلى نماذج قادرة على تطوير نفسها وتحسينها ذاتيًا، دون الحاجة إلى مبرمجين بشريين، وشدد على أنه إذا استمر السباق على هذا المنوال، فقد يخرج الوضع عن السيطرة بحلول نهاية العام المقبل، وأوضح أن المنافسة الشرسة و الخوف من نمو الشركات الصينية، تدفع الإدارات إلى التغاضي عن اختبارات السلامة الأساسية خشية خسارة السباق.
وبعد ساعات من تحذيرات الباحث المستقيل، حذر باحث آخر في مجال السلامة البشرية، وفقًا لموقع سي إن بي سي، إن هناك احتمالًا يزيد عن 10% أن يتمكن الذكاء الاصطناعي من “قتل جميع البشر”، بعد أن يخرج عن السيطرة ويُشكِّل تهديدًا للبشرية جمعاء.
المسار الصحيح
ويُعرف مصطلح التطوير الذاتي بأنه فكرة مفادها أن أنظمة الذكاء الاصطناعي قادرة على تطوير نفسها دون تدخل بشري كبير، أما التطوير الذاتي المتكرر، كما يُطلق عليه غالبًا، فهو غير ممكن حاليًا، لكن مختبرات الذكاء الاصطناعي تعمل على تحقيقه.
وأكد إيفان هوبينجر، الذي يعمل قائد علوم المحاذاة في شركة أنثروبيك، أن زميله المستقيل لم يكن محقًا فيما قاله وحسب، بل إن الشركة العملاقة في مجال الذكاء الاصطناعي ليس لديها حتى الآن خطة لحل معضلة التوافق من أجل الذكاء الخارق، قائلًا: “لسنا على المسار الصحيح حتى لتحقيق ذلك”.