كيف يمكن قياس تأثير الذكاء الاصطناعي على قرارات البشر؟
أبحاث من جوجل ديب مايند تبحث في قياس مخاطر التأثير غير المرغوب فيه للذكاء الاصطناعي على البشر وتطوير أدوات تساعد على تقييمها.
من المساعدة إلى التأثير في السلوك
تتيح الأنظمة الحوارية للمستخدمين طرح الأسئلة ومناقشة القرارات والحصول على اقتراحات مخصصة. لكن القدرة على تقديم إجابات مقنعة تثير تساؤلات حول الحدود الفاصلة بين المساعدة المشروعة والتأثير غير المرغوب فيه على قرارات المستخدم.
وتناولت أبحاث جوجل ديب مايند تطوير أدوات لقياس أنماط من التأثير الضار، بهدف جعل دراسة هذه المخاطر أكثر منهجية بدل الاعتماد على الانطباعات العامة فقط.
لماذا يصعب قياس التأثير؟
قد يتغير قرار الشخص لأسباب متعددة، مثل المعلومات الجديدة أو طريقة عرض الخيارات أو ثقته في الجهة التي تقدم النصيحة. لذلك لا يكفي أن تكون الإجابة مقنعة لإثبات وقوع تلاعب؛ بل يحتاج التقييم إلى تعريف واضح للسلوك المقصود وقياس أثره في ظروف محددة.
وتزداد الصعوبة عندما تتفاعل الأنظمة مع المستخدم على مدى طويل، أو تتكيف مع تفضيلاته، أو تتعامل مع أشخاص لديهم مستويات مختلفة من الخبرة والمعرفة.
ما الذي يمكن أن تقدمه أدوات القياس؟
يمكن للأطر البحثية المنظمة أن تساعد المطورين والباحثين على مقارنة سلوك النماذج، ورصد الحالات التي تستدعي مراجعة إضافية، وتطوير ضوابط تقلل من الاستغلال أو الضغط غير المناسب.
لكن أداة القياس ليست حكمًا نهائيًا على كل محادثة؛ إذ يجب فهم نتائجها في سياق الاختبارات التي صممت من أجلها، والتحقق من مدى صلاحيتها للاستخدامات المختلفة.
أهمية الشفافية للمستخدم
تتطلب الثقة في المساعدات الذكية توضيح حدودها، وعدم تقديم التخمين على أنه حقيقة، وتجنب الضغط على المستخدم لاتخاذ قرارات لا يفهم عواقبها. كما يجب أن يستطيع المستخدم مراجعة المعلومات والرجوع إلى مصادر مستقلة، خاصة في القرارات المهمة.
