مقترحات جديدة لتوسيع الرقابة على الذكاء الاصطناعي
أعلنت ولاية كاليفورنيا الأمريكية يوم 18 نوفمبر 2026 عن مجموعة توصيات جديدة لتشديد الرقابة على أنظمة الذكاء الاصطناعي المتقدمة، تتضمن وضع معايير سلامة أساسية للشركات، وإخضاع النماذج لاختبارات مستقلة، ومنح السلطات صلاحية إصدار أوامر بإيقاف نموذج ذكاء اصطناعي في حالات الطوارئ إذا ثبت أنه يشكل خطرًا كارثيًا وشيكًا.
وجاء الإعلان ضمن إطار عمل جديد عرضه مكتب الحاكم غافين نيوسوم، في محاولة لتطوير قواعد تنظيمية تتعامل مع المخاطر التي قد تنتج عن الأنظمة المتقدمة، خاصة مع زيادة قدرة النماذج على تنفيذ مهام معقدة والتفاعل مع أنظمة رقمية خارجية.
وتعكس التوصيات تحولًا في النقاش الأمريكي حول تنظيم الذكاء الاصطناعي، من الاعتماد على التزامات طوعية للشركات إلى المطالبة بدور أكبر للجهات الحكومية في وضع المعايير ومراجعة أنظمة السلامة والتدخل عند الضرورة.
لكن من المهم التوضيح أن ما أعلنته كاليفورنيا في 18 نوفمبر هو توصيات وإطار مقترح، وليس قانونًا نافذًا يمنح السلطات بالفعل صلاحية إيقاف أي نموذج بمجرد صدور الإعلان.
ما المقصود بصلاحية الإيقاف الطارئ؟
تتضمن التوصيات منح الولاية سلطة إصدار أمر بإيقاف نموذج ذكاء اصطناعي في حالة الطوارئ، عندما يشكل خطرًا كارثيًا وشيكًا، وفق ضوابط قانونية وفنية يجري تحديدها.
وتقوم الفكرة على أن بعض المخاطر قد تتطلب تدخلًا سريعًا، بدلًا من الاكتفاء بفرض غرامات أو انتظار إجراءات طويلة بعد وقوع الضرر.
وقد يتطلب تطبيق هذه الصلاحية وضع تعريف دقيق للحالات التي تستدعي الإيقاف، وتحديد الجهة المختصة بتقييم الخطر، والبيانات التي يجب تقديمها، وآليات الاعتراض والمراجعة القضائية.
كما يثير المقترح أسئلة تقنية مهمة، من بينها كيفية التحقق من قدرة النموذج على إحداث الضرر، وكيفية تنفيذ أمر الإيقاف إذا كان النظام موزعًا على خوادم متعددة أو مدمجًا في خدمات تقدمها شركات مختلفة.
ولذلك فإن الحديث عن صلاحية الإيقاف لا يعني أن تنفيذها سيكون بسيطًا أو فوريًا في جميع الحالات، بل يتطلب بنية قانونية وتقنية قادرة على تحديد المسؤوليات وتطبيق القرار بصورة قابلة للمراجعة.
اختبارات مستقلة ومعايير إلزامية للشركات
تدعو التوصيات إلى وضع معايير أساسية يجب أن تلتزم بها شركات الذكاء الاصطناعي، مع إخضاع الأنظمة لاختبارات تحقق مستقلة خلال مراحل التدريب والتطوير والنشر.
ويستهدف هذا التوجه تقليل الاعتماد على تقييم الشركات لنماذجها بنفسها، من خلال إدخال جهات مستقلة تستطيع فحص قدرات الأنظمة ومخاطرها والتحقق من مدى الالتزام بالمتطلبات القانونية.
كما تتضمن التوصيات تعزيز الإبلاغ عن حوادث السلامة، وإلزام الشركات بوضع بروتوكولات موثقة لاحتواء المخاطر عند ظهور مؤشرات على سلوك غير آمن.
وتبرز أهمية الاختبارات المستقلة في أن بعض المشكلات قد لا تظهر خلال الاختبارات الداخلية التقليدية، أو قد تظهر عند استخدام النموذج في بيئات حقيقية تتضمن بيانات وأدوات وأنظمة خارجية.
لكن نجاح هذا النظام يتطلب تحديد معايير موحدة، وضمان استقلال الجهات التي تجري الاختبارات، ومنع تضارب المصالح، وتوفير الخبرات اللازمة لفحص النماذج شديدة التعقيد.
ما هو التطور الذاتي المتكرر للذكاء الاصطناعي؟
من أكثر النقاط التي تناولتها توصيات كاليفورنيا مسألة التطور الذاتي المتكرر، أو ما يعرف باسم Recursive Self-Improvement.
ويقصد بهذا المفهوم سيناريو قد يتمكن فيه نظام ذكاء اصطناعي من تصميم نسخة أكثر تطورًا من نفسه أو المساهمة في تطوير أنظمة لاحقة بصورة متتابعة، مع تقليل الاعتماد على التدخل البشري المباشر.
وترى الجهات التي أعدت التوصيات أن هذا المسار يحتاج إلى شفافية ورقابة، لأن تسارع قدرات الأنظمة قد يجعل تقييم مخاطرها أكثر صعوبة إذا لم تكن هناك آليات واضحة لمتابعة عمليات التطوير.
وتقترح الوثيقة منح الولاية قدرة على وضع حدود لتطوير واستخدام الأنظمة التي تتضمن مستويات خطرة من التطور الذاتي، إلى جانب إلزام الشركات بتقديم معلومات عن المخاطر المرتبطة بعمليات البحث والتطوير الآلي.
ولا يعني ذلك أن جميع الأنظمة الحالية تمتلك قدرة مستقلة على بناء أجيال جديدة من نفسها، بل إن المقترح يتعامل مع سيناريوهات تقنية مستقبلية ترى الجهات المنظمة ضرورة الاستعداد لها.
لماذا تتحرك كاليفورنيا الآن؟
تستضيف كاليفورنيا عددًا كبيرًا من شركات التكنولوجيا والذكاء الاصطناعي، كما تضم مراكز بحثية وشركات تعمل على تطوير نماذج متقدمة تستخدم في البرمجة والبحث والإنتاج وتحليل البيانات.
ومع توسع استخدام هذه الأنظمة، ظهرت مخاوف بشأن قدرة بعض النماذج على استغلال ثغرات رقمية أو تنفيذ إجراءات خارج البيئة التي جرى اختبارها فيها، وهو ما دفع الولاية إلى الدعوة لتوسيع متطلبات السلامة والرقابة.
ويرى مؤيدو التنظيم أن الابتكار لا ينبغي أن يكون على حساب حماية الجمهور، وأن الشركات التي تطور أنظمة ذات تأثير واسع يجب أن تتحمل مسؤولية أكبر عن اختبارها ومراقبتها.
في المقابل، يثير تشديد القواعد مخاوف تتعلق بتكاليف الامتثال وتأثير القيود التنظيمية في الشركات الناشئة والبحث العلمي، خاصة إذا أصبحت إجراءات الاختبار معقدة أو مكلفة بصورة تعوق دخول منافسين جدد إلى السوق.
ما علاقة المقترحات بالقوانين القائمة؟
أشار مكتب الحاكم إلى أن كاليفورنيا تمتلك بالفعل مجموعة من القوانين التي تتناول مجالات مختلفة من تنظيم الذكاء الاصطناعي، من بينها سلامة النماذج المتقدمة والتحقق المستقل وحماية الأطفال والخصوصية والتزييف العميق والاحتيال والأمن السيبراني.
كما أشار إلى تشريعين هما SB 813 وAB 1405، يتعلقان بإطار عمل للجهات التي تتحقق بصورة مستقلة من سلامة الأنظمة، وبإنشاء سجل للمدققين الذين يراجعون أنظمة الذكاء الاصطناعي ومدى امتثالها للقانون.
وتسعى التوصيات الجديدة إلى البناء على هذا الإطار من خلال تعزيز دور الجهات الحكومية وتوسيع متطلبات الإبلاغ والرقابة وإدارة المخاطر.
لكن المقترحات الإضافية لا تصبح نافذة لمجرد نشر تقرير الحاكم؛ فبعضها يتطلب إجراءات تشريعية أو تنظيمية لاحقة، كما أن تفاصيل التنفيذ ستحدد مدى اتساع الصلاحيات وحدودها.
هل يمكن أن تصبح كاليفورنيا نموذجًا لبقية الولايات؟
تتمتع كاليفورنيا بثقل اقتصادي وتقني يجعل قراراتها محل متابعة من الشركات الأمريكية والدولية، ولذلك قد تؤثر قواعدها في الطريقة التي تصمم بها شركات التكنولوجيا منتجاتها وخدماتها.
وإذا تحولت التوصيات إلى تشريعات ملزمة، فقد تضطر الشركات التي تقدم خدماتها في الولاية إلى تطوير إجراءات إضافية لاختبار النماذج ومراقبتها والإبلاغ عن الحوادث.
وقد تدفع هذه الخطوة ولايات أخرى إلى دراسة قواعد مماثلة، خصوصًا في ظل غياب إطار اتحادي موحد يحسم جميع جوانب تنظيم الذكاء الاصطناعي في الولايات المتحدة.
ومع ذلك، لا يمكن الجزم بأن المقترحات ستصبح نموذجًا وطنيًا أو أن جميع الشركات ستخضع لها بالطريقة نفسها، لأن ذلك يعتمد على المسار التشريعي وردود فعل القطاع التقني والمحاكم.
خلاصة: تفتح توصيات كاليفورنيا نقاشًا جديدًا حول حدود سلطة الحكومات في مراقبة الذكاء الاصطناعي، خصوصًا إمكانية إيقاف نموذج يمثل خطرًا كارثيًا وشيكًا. لكن المقترحات لا تزال بحاجة إلى مسار تشريعي وتنظيمي قبل تحولها إلى صلاحيات قانونية نافذة.



