كشفت شركة OpenAI عن نموذج جديد للذكاء الاصطناعي أسترا، وصفته بأنه الأفضل حتى الآن، لكنها حذَّرت من أنه يحاول أحيانًا التهرب من الرقابة البشرية، في الوقت الذي تواجه فيه الشركة تدقيقًا متزايدًا بعد أن اخترق وكلاؤها أنظمة شركات أخرى.

وتعاني “أوبن إيه.آي” من تداعيات الحادث الذي وقع في يوليو، عندما تمكن وكلاؤها من الهروب من اختبار آمن واخترقوا أنظمة منصة هاجينج فيس مفتوحة المصدر، في محاولة لإخفاء آثارهم.

وأثارت هذه الواقعة مخاوف تتعلق بالسلامة، إذ وقعت وقائع مماثلة في شركة أنثروبيك المنافسة في الوقت الذي يتسابق فيه المطورون لنشر نماذج أكثر تقدمًا، وفقًا لـ”رويترز”.

تتركز المخاوف على الذكاء الاصطناعي القائم على الوكلاء، والمصمم لأداء المهام بتدخل بشري ضئيل أو معدوم. والوعد بتشغيل الوكلاء على مدار الساعة عامل أساسي في ثقة المستثمرين بجاذبية الذكاء الاصطناعي باعتباره تقنية تحويلية.