قررت إندونيسيا، اليوم السبت، حجب روبوت الدردشة “جروك” التابع لإيلون ماسك، مؤقتًا بسبب مخاطر إنشاء محتوى جنسي بواسطة الذكاء الاصطناعي، لتصبح أول دولة تمنع الوصول إلى الأداة.
وجاء القرار على خلفية انتقادات وتحركات من حكومات وهيئات تنظيمية في أوروبا وآسيا بشأن محتوى جنسي تم تداوله عبر التطبيق، وفتحت بعض الجهات تحقيقات في الأمر، حسبما ذكرت وكالة “رويترز”.
وقالت شركة “إكس.إيه.آي” المطوِّرة لـ”جروك”، إنها قررت قصر توليد الصور وتعديلها على المشتركين الذين يدفعون رسومًا، في إطار محاولات سد ثغرات حماية سمحت بإنتاج محتوى جنسي، من بينها صور لأطفال بملابس فاضحة.
وفي بيان، أكدت وزيرة الاتصالات الإندونيسية ميوتيا حفيظ أن ممارسة التزييف العميق الجنسي دون موافقة تُعد انتهاكًا خطيرًا لحقوق الإنسان وكرامة وأمن المواطنين في الفضاء الرقمي، مشيرة إلى أن الوزارة استدعت مسؤولين من منصة إكس لمناقشة التطورات.
من جهته، قال “ماسك”، عبر منصة إكس، إن أي شخص يستخدم جروك لصناعة محتوى غير قانوني سيواجه العواقب نفسها المترتبة على نشر محتوى غير قانوني.
يشار إلى أنه انتشرت على مدى الأسبوعين الماضيين، صور عارية لأشخاص حقيقية على منصة”إكس” معدلة باستخدام الذكاء الاصطناعي، جرى إنشاؤها عبر برنامج الدردشة الآلي Grok AI، ما أثار موجة غضب وانتقادات واسعة.