اكتشفت وكالة رويترز أن روبوت الدردشة “غروك“، التابع لإيلون ماسك والمعتمد على الذكاء الاصطناعي، لا يزال يُنتج صورًا جنسية لأشخاص حتى بعد تحذير المستخدمين صراحةً بأن الأشخاص في الصور لم يوافقوا على ذلك.
بعد أن أعلنت شركة الواصل الاجتماعي “إكس”، المملوكة لماسك، عن قيود جديدة على المحتوى الذي ينتجه “غروك” للعامة، وجه تسعة من مراسلي “رويترز” أسئلة لروبوت الدردشة لمعرفة ما إذا كان سينتج صورًا جنسية دون موافقة الأشخاص، وتحت أي ظروف قد يفعل ذلك.
وعلى الرغم من أن حساب “غروك” العام على منصة “إكس” لم يعد يُنتج الكم الهائل نفسه من الصور الجنسية، لا يزال روبوت الدردشة يُنتجها عند الطلب، حتى بعد تحذيره من أن الأشخاص الظاهرين في الصور عُرضة للأذى أو قد يُحرَجوا من هذه الصور، حسبما وجد مراسلو “رويترز”.
ولم تجب شركة إكس إيه آي مطورة “غروك” على الأسئلة التفصيلية حول إنتاج روبوت الدردشة للمواد الجنسية، واكتفت بإرسال ردٍّ تقليدي تقول فيه: “أكاذيب الإعلام التقليدي”.
كانت “إكس” أعلنت عن هذه القيود على قدرات “غروك” في إنتاج الصور بعد موجة غضب وانتقادات عالمية بسبب إنتاجه المكثف لصور ذات طابع جنسي لنساء وأطفال بدون موافقتهم. وشملت التغييرات منع “غروك” من إنشاء صور جنسية في منشورات عامة على منصة إكس، وفرض قيود إضافية في مناطق لم تُحدد “حيث يُعدّ هذا المحتوى غير قانوني”.
ولاقى إعلان “إكس” ترحيبًا من المسؤولين، حيث وصفته هيئة تنظيم الاتصالات البريطانية “أوفكوم” بأنه “تطور مرحب به”. وفي الفلبين وماليزيا، رفع المسؤولون الحظر عن “غروك”. بينما تفاعلت المفوضية الأوروبية، التي أعلنت في 26 يناير عن تحقيق بشأن منصة إكس، بحذر أكبر، قائلة آنذاك: “سنقيم هذه التغييرات بعناية”.
في تجربة “رويترز”، قدم مراسلو الوكالة -وهو ستة رجال وثلاث نساء من الولايات المتحدة والمملكة المتحدة- صورًا لهم وهم يرتدون ملابسهم بالكامل إلى “غروك” في الفترة ما بين 14 و16 يناير، وما بين 27 و28 يناير. وطلبوا من روبوت الدردشة تعديل الصور لتصويرهم في أوضاع جنسية مثيرة أو مهينة.
في الدفعة الأولى من الطلبات، أنتج “غروك الصور الجنسية استجابةً ل 45 حالة من أصل 55. وفي 31 من تلك الحالات ال 45، تم تحذير “غروك أيضًا بأن الشخص في الصورة معرض بشكل خاص للأذى. وفي 17 حالة من بين الحالات ال 45، أنتج “غروك” الصور بعد أن تم إخباره تحديدًا أنها ستُستخدم لإهانة الشخص.
بعد خمسة أيام من طلب التعليق الأول، أجرت رويترز اختبارًا ثانيًا شمل 43 طلب. وأنشأ “غروك” صورًا ذات طابع جنسي في 29 حالة. ولم تتمكن رويترز من تحديد ما إذا كان انخفاض النسبة يعكس تغييرات في النموذج، أو تغييرات في السياسة، أو مجرد أمر عشوائي.
لم ترد “إكس” و”إكس إيه آي” على أسئلة حول إذا ما كانت أُجريت أي تغييرات على الخوارزمية بين الفحصين الأول والثاني الذي أجراهما مراسلو “رويترز”.
لم يُنشئ “غروك”- ولم تطلب رويترز- صورًا عارية تمامًا أو مشاهد جنسية صريحة، والتي قد تندرج تحت تشريعات مثل قوانين مثل قانون إزالة المحتوى في الولايات المتحدة ” Take It Down”، الذي يهدف إلى حماية الأميركيين من الصور المسيئة التي يُنشئها الذكاء الاصطناعي، أو قوانين مماثلة على مستوى الولايات.