“الذكاء الاصطناعي يمكن أن يتحول من أداة صنعها الإنسان إلى تهديد وجودي للبشرية”، هكذا حذّر باحث سابق في شركة Anthropic، بعدما قرر مغادرة الشركة وسط مخاوفه من السباق المتسارع بين شركات التكنولوجيا لتطوير أنظمة ذكاء اصطناعي فائقة الذكاء.
ويرى الباحث أن هذه الأنظمة قد تصبح في غضون سنوات قادرة على تجاوز البشر في قدرات أساسية، وصولًا إلى سيناريو وصفه بالأخطر، “أن يتمكن الذكاء الاصطناعي من قتل جميع البشر”، بحسب صحيفة “ديلي ميل” البريطانية.
وقال الباحث جاكوب كوكسون، الذي عمل لثلاث سنوات في أبحاث تدريب نماذج الذكاء الاصطناعي لدى Anthropic وOpenAI، إن الشركتين لا تتصرفان، من وجهة نظره، بمسؤولية كافية تجاه المخاطر المحتملة لهذه التكنولوجيا.
وكتب بعد استقالته أن الشركات “تتسابق مباشرة نحو ذكاء فائق قادر على تحسين نفسه”، محذرًا من أن هذا السباق قد يتحول إلى “مقامرة بحياة البشر”.
ووجّه كوكسون تحذيرًا شديدًا من مستقبل قد تصبح فيه أنظمة الذكاء الاصطناعي أكثر قدرة من البشر في مجالات متعددة، بما يسمح لها باختراق الأنظمة الرقمية، وتسريع التطور العلمي والتكنولوجي، والوصول إلى موارد وقوة يصعب على البشر السيطرة عليها.
وقال إن الأشخاص الذين يعملون على تطوير الذكاء الاصطناعي يدركون بالفعل احتمال أن تؤدي الأنظمة فائقة الذكاء إلى قتل البشر جميعًا، خلال العقد المقبل.
ويرى الباحث أن الخطر لا يكمن في الذكاء الاصطناعي الحالي بقدر ما يتعلق بما قد يحدث إذا نجحت الشركات في تطوير أنظمة فائقة الذكاء قادرة على تحسين قدراتها واتخاذ قرارات أكثر استقلالية.
ويعد الأكثر إثارة في القضية أن إيفان هوبينجر، المسؤول عن أبحاث المواءمة في Anthropic، رد على كوكسون مؤكدًا أن الشركة نفسها تتعامل بجدية مع احتمال أن يؤدي الذكاء الاصطناعي إلى القضاء على البشر.
وقال هوبينجر إن تقديره الشخصي لاحتمال أن يتمكن الذكاء الاصطناعي من قتل جميع البشر، خلال العقد المقبل، يتجاوز 10%، مضيفًا أن Anthropic تبذل ما في وسعها، لكنها لا تملك حتى الآن حلًا نهائيًا لمشكلة ضمان توافق أنظمة الذكاء الاصطناعي فائقة الذكاء مع مصالح البشر.
وبحسب كوكسون، فإن المنافسة بين شركات الذكاء الاصطناعي تدفع نحو تطوير قدرات أكبر بسرعة متزايدة، في وقت لم تتطور فيه إجراءات السلامة بالسرعة نفسها.
ويرى أن استمرار هذا السباق دون ضمانات قوية قد يجعل البشرية تخاطر بتطوير تقنية لا تمتلك القدرة الكافية على التحكم فيها.
ولا يعني ذلك أن انقراض البشر أصبح أمرًا حتميًا، كما لا توجد أدلة علمية تثبت أن الذكاء الاصطناعي سيقتل البشرية بالفعل. لكن التحذير يكتسب أهمية خاصة لأنه يأتي من باحث عمل داخل شركتين من أبرز شركات الذكاء الاصطناعي في العالم، وفقًا لـ”ديلي ميل”.
وتأتي تصريحات كوكسون بعد تحذيرات مماثلة من عالم الذكاء الاصطناعي الكندي جيفري هينتون، الذي يعرف على نطاق واسع بأنه أحد رواد المجال، الذي حذر من أن تطوير ذكاء اصطناعي يتفوق على البشر قد يؤدي إلى فقدان السيطرة عليه، معتبرًا أن أسوأ السيناريوهات قد تصل إلى انقراض البشرية.