الذكاء الاصطناعي في القرارات الآلية.. كيف يعرف المواطن أن الخوارزمية أثرت في معاملته؟
تعرف على أهمية الشفافية في القرارات الآلية التي تستخدم الذكاء الاصطناعي، وما الذي يجب أن توضحه المؤسسات للأشخاص المتأثرين بنتائجها.
تستخدم المؤسسات بصورة متزايدة أنظمة رقمية لترتيب الطلبات وتقييم المخاطر وتقديم التوصيات. وقد تكون هذه الأنظمة مفيدة في تسريع الإجراءات، لكن المشكلة تظهر عندما تؤثر نتيجة آلية في فرصة عمل أو خدمة أو معاملة دون أن يفهم الشخص سبب القرار أو كيفية الاعتراض عليه.
ما الفرق بين التوصية والقرار الآلي؟
قد يقترح النظام على الموظف ترتيبًا معينًا للطلبات، ثم يتخذ الإنسان القرار النهائي. وفي حالات أخرى، يمكن أن ينفذ النظام إجراءً بصورة آلية وفق قواعد محددة. ويختلف مستوى المخاطر باختلاف أثر القرار، وإمكان مراجعته، ومدى اعتماد المؤسسة على المخرجات دون تدخل بشري.
لماذا تعد الشفافية مهمة؟
تساعد الشفافية على معرفة البيانات التي يعتمد عليها النظام، وحدود استخدامه، والجهة المسؤولة عن النتيجة. كما تتيح اكتشاف الأخطاء أو التمييز غير المقصود، وتمنح المتضرر فرصة لفهم الإجراءات المتاحة أمامه.
وتناولت تحديثات تنظيمية نُشرت في أكتوبر 2026 إرشادات بشأن الشفافية في استخدام الذكاء الاصطناعي واتخاذ القرارات الآلية، في إطار الاهتمام المتزايد بحماية الخصوصية والمساءلة.
هل تكفي مراجعة بشرية شكلية؟
ليس بالضرورة. فالمراجعة الفعالة تحتاج إلى شخص لديه صلاحية حقيقية لتقييم النتيجة وتغييرها، مع توافر معلومات كافية لفهم الحالة. أما الموافقة التلقائية على كل توصية يقدمها النظام، فقد لا توفر حماية فعلية.
ما الذي ينبغي أن توضحه المؤسسات؟
من المفيد تحديد الحالات التي تستخدم فيها الأنظمة الآلية، ونوع البيانات المعتمدة، وآليات تصحيح المعلومات والاعتراض على النتائج. كما يجب توثيق القرارات المهمة واختبار النظام دوريًا للتأكد من أنه يعمل على النحو المقصود.
الخلاصة: لا تتحقق الثقة في الذكاء الاصطناعي بمجرد إعلان استخدامه، بل بوضوح دوره وإمكان مراجعة نتائجه وتحديد الجهة المسؤولة عن القرارات التي تؤثر في الناس.
