حذّر مشروع OWASP المتخصص في أمن تطبيقات الذكاء الاصطناعي من مجموعة من الأخطاء التي قد تعرض المستخدمين للسرقة أو تسريب البيانات أو تنفيذ إجراءات غير مقصودة أثناء استخدام أدوات الذكاء الاصطناعي.

ومع انتقال هذه الأدوات من مجرد روبوتات للمحادثة إلى أنظمة تستطيع قراءة الملفات واستخدام البريد الإلكتروني وتنفيذ المهام، أصبحت طريقة استخدامها وإدارة صلاحياتها عاملًا أساسيًا في حماية المعلومات.

لا تضع بياناتك الحساسة في أي نموذج

من أبرز المخاطر إدخال معلومات شخصية أو سرية داخل أدوات الذكاء الاصطناعي دون معرفة كيفية تعامل الخدمة معها.

ويشمل ذلك كلمات المرور، وبيانات البطاقات البنكية، وأرقام الهواتف، والسجلات الطبية، والمستندات الشخصية، بالإضافة إلى الملفات السرية الخاصة بالعمل.

وقد تصبح المخاطر أكبر عندما يكون النموذج مرتبطًا بخدمات أخرى أو يمتلك صلاحية الوصول إلى البريد الإلكتروني والملفات والتطبيقات.

لا تتعامل مع إجابات الذكاء الاصطناعي كحقائق مؤكدة

قد يقدم النموذج إجابة تبدو دقيقة ومقنعة، لكنها تحتوي على معلومات خاطئة أو استنتاجات غير صحيحة.

لذلك يجب مراجعة المعلومات المهمة بالاعتماد على مصادر موثوقة، خصوصًا عند التعامل مع القرارات الطبية والقانونية والمالية أو المعلومات التي قد يترتب عليها ضرر في حال كانت غير دقيقة.

افحص الملفات قبل رفعها

استخدام الذكاء الاصطناعي لتحليل ملفات PDF والصور والمستندات قد يكون مفيدًا، لكنه قد يكشف بيانات لم ينتبه إليها المستخدم.

فبعض الملفات قد تحتوي على معلومات مخفية أو بيانات وصفية أو محتوى حساس، كما يمكن أن تتضمن تعليمات مصممة للتأثير على طريقة تعامل النموذج مع الملف.

ولهذا لا ينبغي رفع أي مستند إلى خدمة ذكاء اصطناعي قبل معرفة محتواه وطريقة تعامل الخدمة مع البيانات.

احذر من Prompt Injection

من أخطر التهديدات التي يشير إليها OWASP ما يعرف بـ Prompt Injection، حيث يمكن إخفاء تعليمات خبيثة داخل صفحة ويب أو ملف أو رسالة بريد إلكتروني.

وعندما يقرأ نموذج الذكاء الاصطناعي هذا المحتوى، قد يتعامل مع التعليمات الضارة باعتبارها جزءًا من السياق، ما قد يدفعه إلى تغيير سلوكه أو محاولة الوصول إلى معلومات أو تنفيذ إجراءات لم يطلبها المستخدم.

وتزداد خطورة هذا النوع من الهجمات عندما يكون النموذج قادرًا على استخدام أدوات خارجية وتنفيذ مهام بشكل مستقل.

لا تمنح الذكاء الاصطناعي صلاحيات أكثر مما يحتاج

عندما يستطيع المساعد إرسال رسائل أو تعديل ملفات أو الوصول إلى حسابات وخدمات أخرى، فإن الخطأ لا يعود مجرد إجابة غير صحيحة، بل قد يتحول إلى إجراء فعلي.

ولهذا يوصي نهج OWASP بوجود مراجعة بشرية قبل العمليات الحساسة، إلى جانب تطبيق مبدأ أقل قدر من الصلاحيات، بحيث يحصل النظام فقط على الوصول الضروري لإنجاز المهمة.

راجع الأكواد التي يولدها الذكاء الاصطناعي

يمكن لأدوات الذكاء الاصطناعي إنشاء الأكواد البرمجية وتصحيح الأخطاء بسرعة، لكن تشغيل الكود الناتج مباشرة دون مراجعته قد يؤدي إلى إدخال ثغرات أو أخطاء غير متوقعة.

وتزداد أهمية المراجعة عندما يتعامل الكود مع قواعد البيانات أو الملفات أو كلمات المرور أو صلاحيات النظام.

فالذكاء الاصطناعي قد يكتب كودًا يبدو صحيحًا من الناحية الشكلية، دون أن يعني ذلك أنه آمن أو مناسب لبيئة الإنتاج.

لا تثق بأي أداة لمجرد أنها تحمل اسم AI

تختلف الخدمات من حيث مستوى الأمان والخصوصية، لذلك يجب معرفة الجهة التي تقف وراء الأداة، ومراجعة سياسة الخصوصية والصلاحيات التي تطلبها وكيفية تعاملها مع الملفات والبيانات.

ويصبح الأمر أكثر حساسية عندما تطلب الخدمة الوصول إلى البريد الإلكتروني أو التخزين السحابي أو حسابات أخرى.

الصلاحيات الواسعة تعني مخاطر أكبر

كل خدمة إضافية مرتبطة بمساعد الذكاء الاصطناعي قد تمثل نقطة وصول جديدة إلى بيانات المستخدم.

وفي حال تعرض النظام للاختراق أو إساءة استخدام الصلاحيات، فإن حجم الضرر المحتمل يرتبط مباشرة بما يستطيع النظام الوصول إليه.

لذلك من الأفضل فصل الخدمات الحساسة وتقليل الصلاحيات وإلغاء أي وصول لم يعد ضروريًا.

الاستخدام الآمن يبدأ من المستخدم

لا تعني هذه التحذيرات ضرورة الابتعاد عن أدوات الذكاء الاصطناعي، بل استخدامها بوعي أكبر.

والقاعدة العملية بسيطة: لا تشارك معلومات حساسة دون حاجة، تحقق من الإجابات المهمة، افحص الملفات قبل رفعها، راجع الأكواد قبل تشغيلها، ولا تسمح للذكاء الاصطناعي بتنفيذ إجراءات حساسة دون رقابة أو صلاحيات أوسع من اللازم.

ومع تطور وكلاء الذكاء الاصطناعي وقدرتهم على تنفيذ المهام بدلًا من مجرد تقديم الإجابات، ستصبح إدارة الصلاحيات والمراجعة البشرية جزءًا أساسيًا من الاستخدام الآمن لهذه التقنيات.