أعلنت شركة OpenAI مجموعة جديدة من سياسات وإجراءات الأمن والسلامة، تهدف إلى احتواء الحوادث الأمنية أثناء اختبار نماذج الذكاء الاصطناعي.

وتشمل الإجراءات الجديدة مراقبة أكثر تفصيلًا لسلوك النماذج خلال مراحل التطوير، إلى جانب تعزيز التركيز على مواءمة النماذج وأمنها خلال مرحلة ما بعد التدريب.

وأوضحت الشركة أن الإجراءات الجديدة جاءت جزئيًا نتيجة القدرات المتقدمة في مجال الأمن السيبراني لنموذج Astra المرتقب، إلى جانب السرعة المتزايدة التي يتطور بها قطاع الذكاء الاصطناعي، مشيرة إلى أنها أوقفت عمليات التعلم المعزز لمدة أسبوعين عقب حادثة Hugging Face، قبل أن تستأنف تدريب العديد من النماذج الأقل خطورة.

وتشمل الإجراءات الجديدة تعزيز ممارسات عزل الشبكات، بحيث لا يؤدي اختراق أحد أعباء العمل أو الخدمات الداعمة بمفرده إلى منح المهاجمين وصولًا غير مصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى.

كما تتضمن نظام مراقبة متقدما يفحص مجموعة واسعة من الأنشطة بحثا عن سلوك غير مصرح به، ويراقب إجراءات الأدوات التي تستخدمها النماذج وآثار الاستدلال وسجلات النشاط؛ بهدف اكتشاف الأنماط التي قد تشير إلى نشاط مقلق أو محاولة تجاوز القيود الأمنية.

وتستهدف ” OpenAI” إصدار تنبيهات خلال 30 دقيقة من اكتشاف نشاط يثير المخاوف، بينما تقدر الشركة أن تشغيل نظام المراقبة سيحتاج إلى موارد حوسبة تعادل نحو 20% من الموارد المستخدمة في العملية التي تتم مراقبتها.