القانون المصري يواجه تحديات الذكاء الاصطناعي.. من المسؤول عن الأضرار التي تسببها الأنظمة الذكية؟
أصبح استخدام أنظمة الذكاء الاصطناعي جزءًا من الحياة اليومية في مصر، سواء في الخدمات المصرفية والتعليم والتجارة الإلكترونية أو في أدوات إنشاء المحتوى وتحليل البيانات واتخاذ القرارات. ومع اتساع الاعتماد على هذه التقنيات، تبرز أسئلة قانونية لم تعد نظرية، من بينها: من يتحمل المسؤولية إذا تسبب نظام ذكي في خسارة مالية؟ وهل تقع المسؤولية على الشركة المطورة أم الجهة التي تستخدم النظام أم الشخص الذي اعتمد على مخرجاته دون مراجعة؟
وتزداد أهمية هذه الأسئلة مع دخول تطبيقات الذكاء الاصطناعي إلى مجالات حساسة، مثل التوظيف والتقييم الائتماني والخدمات الطبية وإدارة المنشآت. فالنظام قد ينتج معلومة غير صحيحة، أو يصنف شخصًا بصورة غير عادلة، أو يتخذ قرارًا آليًا بناءً على بيانات ناقصة أو منحازة. وهنا تظهر الحاجة إلى تحديد المسؤولية وفق القواعد القانونية القائمة، دون افتراض أن التكنولوجيا تمنح مستخدمها حصانة من المساءلة.
هل يوجد قانون مصري مستقل ينظم جميع تطبيقات الذكاء الاصطناعي؟
لا يصح التعامل مع الذكاء الاصطناعي باعتباره مجالًا خارج القانون لمجرد أن التقنية حديثة. فحتى في غياب تشريع واحد شامل يغطي كل تطبيقاته، يمكن أن تخضع الأفعال المرتبطة باستخدام الأنظمة الذكية لقواعد قانونية متعددة، بحسب طبيعة الواقعة والضرر والجهة المسؤولة.
فعلى سبيل المثال، قد تنشأ مسؤولية مدنية إذا أدى استخدام نظام آلي إلى إلحاق ضرر بالغير وتوافرت شروط المسؤولية وفق القواعد العامة. وقد تظهر مسؤولية تعاقدية إذا أخل مقدم خدمة بالتزاماته تجاه العميل، أو قدم خدمة على نحو يخالف ما اتفق عليه الطرفان. وفي حالات أخرى، قد تتعلق الواقعة بجرائم منصوص عليها في تشريعات قائمة، إذا ارتبط استخدامها بفعل مجرم قانونًا.
ومن المهم هنا عدم الخلط بين وجود استراتيجية وطنية أو توجه حكومي لتطوير الذكاء الاصطناعي وبين وجود قانون ملزم يحدد المسؤولية عن كل تطبيق. فالاستراتيجيات والسياسات العامة توجه العمل المؤسسي، لكنها لا تحل محل النصوص التشريعية التي تنشئ الحقوق والالتزامات والعقوبات.
من يتحمل المسؤولية إذا قدم النظام معلومة خاطئة؟
لا توجد إجابة واحدة تصلح لكل الحالات. فإذا استخدمت شركة نظامًا ذكيًا لتقديم خدمة للعملاء، ثم تسبب خطأ في مخرجاته في ضرر، فإن تحديد المسؤولية يتطلب فحص طبيعة الخدمة والعقد المبرم ومدى التزام الشركة بواجبات الحيطة والتحقق.
وقد تكون الشركة مسؤولة إذا ثبت أنها أهملت اختبار النظام أو استخدمته رغم علمها بوجود عيوب مؤثرة، أو قدمت للعملاء وعودًا بشأن دقته لا تتفق مع قدراته الفعلية. وفي المقابل، قد تختلف النتيجة إذا كان المستخدم قد أدخل بيانات غير صحيحة، أو تجاهل تحذيرات واضحة، أو استخدم النظام في غرض لم يصمم من أجله.
أما الشركة المطورة للتقنية، فقد تثار مسؤوليتها بحسب طبيعة العلاقة بينها وبين الجهة المستخدمة، وما إذا كان الضرر مرتبطًا بعيب في المنتج أو الخدمة أو إخلال بالتزامات تعاقدية. ولا يمكن تحميل طرف بعينه المسؤولية بصورة تلقائية قبل فحص الأدلة والسبب المباشر للضرر.
هل يمكن الاعتماد على قرارات الذكاء الاصطناعي في التوظيف؟
قد تستخدم المؤسسات أنظمة آلية لفرز السير الذاتية أو ترتيب المتقدمين للوظائف أو تقييم أدائهم. وتوفر هذه الأدوات سرعة في التعامل مع أعداد كبيرة من الطلبات، لكنها قد تنتج قرارات غير عادلة إذا كانت البيانات المستخدمة في تدريبها لا تمثل جميع الفئات بصورة متوازنة.
فإذا استبعد النظام متقدمين بسبب نمط غير مرتبط بكفاءتهم، أو اعتمد على بيانات تاريخية تحمل تحيزًا سابقًا، فقد يؤدي ذلك إلى تمييز غير مبرر. وتزداد خطورة الأمر عندما لا يعرف المتقدم أن قرار استبعاده اتخذته أداة آلية، أو لا تتاح له فرصة طلب مراجعة بشرية.
ولهذا ينبغي للمؤسسات التي تستخدم هذه الأنظمة أن تضع إجراءات واضحة للمراجعة، وألا تجعل التقييم الآلي بديلًا مطلقًا عن التحقق البشري في القرارات ذات التأثير الجوهري على حقوق الأفراد. كما يجب الاحتفاظ بسجلات تساعد على تفسير القرار ومراجعة الأسس التي بني عليها.
ماذا عن استخدام الذكاء الاصطناعي في الخدمات الطبية؟
يعد الاستخدام الطبي من أكثر المجالات حساسية، لأن الخطأ قد يؤثر في صحة المريض أو يؤخر تشخيصًا أو يؤدي إلى اختيار علاج غير مناسب. وإذا استعان طبيب أو منشأة صحية بنظام ذكي للمساعدة في قراءة صور الأشعة أو تحليل البيانات، فإن الأداة تظل وسيلة مساعدة ولا ينبغي افتراض أنها تحل محل التقييم المهني للطبيب.
وتتوقف المسؤولية على تفاصيل الواقعة، ومنها مدى ملاءمة النظام للاستخدام، وطريقة تشغيله، والتحذيرات المرتبطة به، ومدى التزام مقدم الخدمة بالمعايير المهنية. كما يجب التمييز بين خطأ تقني لا يمكن توقعه رغم اتخاذ الاحتياطات المعقولة وبين الإهمال في استخدام الأداة أو الاعتماد على نتائجها دون مراجعة مناسبة.
هل استخدام بيانات الأشخاص لتدريب الأنظمة مباح دون قيود؟
تثير عملية جمع البيانات واستخدامها لتطوير الأنظمة الذكية مسائل تتعلق بالخصوصية والغرض من المعالجة وحقوق أصحاب البيانات. ويجب النظر إلى هذه المسائل في ضوء القواعد المصرية المنظمة لحماية البيانات الشخصية، وعلى رأسها القانون رقم 151 لسنة 2020، مع مراعاة نطاق تطبيقه والاستثناءات والإجراءات التي ينص عليها.
ولا يعني ذلك أن كل استخدام للبيانات في تدريب نظام ذكي محظور، كما لا يعني أن نشر البيانات على الإنترنت يجعلها متاحة بلا ضوابط لأي غرض. فالمشروعية تتوقف على طبيعة البيانات وطريقة جمعها والغرض من استخدامها والأساس القانوني للمعالجة والالتزامات المقررة على المتحكم والمعالج.
كيف تحمي الشركات نفسها والمستخدمين؟
تحتاج المؤسسات إلى وضع سياسة مكتوبة لاستخدام الذكاء الاصطناعي، تحدد التطبيقات المسموح بها والبيانات التي يمكن إدخالها، والقرارات التي تتطلب مراجعة بشرية، وآلية التعامل مع الأخطاء والشكاوى. كما ينبغي تقييم مخاطر النظام قبل استخدامه في القرارات التي تؤثر في حقوق العملاء أو العاملين.
ومن الضروري ألا تدخل الشركات بيانات سرية أو شخصية في أدوات عامة دون التحقق من شروط الخدمة وطريقة معالجة البيانات. ويجب تدريب العاملين على أن مخرجات النظام ليست حقائق مؤكدة، وأن مراجعة المعلومات والمستندات تظل ضرورية قبل اتخاذ قرار مهني أو قانوني أو مالي.
ما الذي ينبغي على المتضرر فعله؟
إذا تسبب استخدام نظام ذكي في ضرر، فمن المهم الاحتفاظ بالمراسلات والمستندات ونسخ المخرجات وبيانات الخدمة والعقد أو الشروط التي وافق عليها المستخدم. كما ينبغي توثيق الضرر والعلاقة بينه وبين القرار أو الخدمة، لأن إثبات الواقعة والسببية عنصران أساسيان عند المطالبة بالتعويض أو تقديم شكوى.
وفي النهاية، لا يعني تطور الذكاء الاصطناعي أن المسؤولية القانونية أصبحت بلا صاحب. فالتقنية قد تنفذ عمليات معقدة، لكنها تعمل داخل منظومة يضعها البشر وتستخدمها المؤسسات، ولذلك يظل تحديد المسؤولية مرتبطًا بالفعل والضرر والالتزامات القانونية التي تحكم كل حالة.
