حين يسرّب خبراء الأمن السيبراني أنفسهم البيانات إلى الذكاء الاصطناعي: المخاطر الخفية للنماذج اللغوية العامة
في الصيف الماضي، ارتكب مسؤول كبير في الأمن السيبراني في الولايات المتحدة خطأً فادحاً: سرّب دون قصد مستندات حكومية بالغة الأهمية إلى النسخة العامة من ChatGPT. ولحسن الحظ كان قد طبّق تدابير أمنية كافية لمنع حدوث أي اختراق كبير للبيانات.
لكن الدرس المستفاد مقلق للغاية. فما احتمال ألا يرتكب موظفوك الخطأ نفسه ببيانات أعمالك الحرجة؟
"السبب" وراء هذا "الخطأ"
نادراً ما يحدث هذا النوع من تسرب البيانات بنية سيئة. فما يسعى إليه موظفوك هو العمل بكفاءة وفعالية أكبر. وما لا يدركونه أن أداة الذكاء الاصطناعي الشائعة الاستخدام ليست آمنة لمجرد أن كثيرين يستخدمونها. فهناك فرق جوهري بين الذكاء الاصطناعي العام والخاص، وهو فرق غير مفهوم جيداً.
حقيقة أدوات الذكاء الاصطناعي العامة
حين تُقدَّم معلومات إلى أدوات الذكاء الاصطناعي العامة، فإنها كثيراً ما تصل إلى الشركة المشغلة لتلك الأدوات لتحسين نماذجها.
هذا ليس اختراقاً ولا قرصنة، بل هو في الواقع متوافق تماماً مع شروط الخدمة.
وفي اللحظة التي تُقدَّم فيها معلومات حساسة، تفقد مؤسستك السيطرة عليها بالكامل وتعرّضها لخطر وصول الآخرين إليها.
بناء ثقافة آمنة للذكاء الاصطناعي
قد يكون وضع حظر على الذكاء الاصطناعي في الصفحة ٥٣ من دليل الموظف "محاولة" للأمن، لكنه لن يمنع انكشاف المؤسسة في الواقع. ولحماية المؤسسة دون إعاقة تطوير الذكاء الاصطناعي، لا بد من نهج فعّال قائم على "الحواجز الواقية":
التدريب على التوعية: يمكن لمؤسستك أن تقدم لموظفيها تدريباً أساسياً على طريقة عمل النماذج اللغوية العامة، وأسباب القيود، والمعلومات التي يُحظر مشاركتها.
توفير البدائل: الموظفون مثل الماء، يذهبون حيث الطريق الأسهل. يجب أن توفر مؤسستك أدوات ذكاء اصطناعي خاصة ومعتمدة. وإن جعلتها سهلة الاستخدام، استطعت أن تبني الأمن في صميم مؤسستك.
كيف نساعد: أمن الذكاء الاصطناعي والتدريب
مواكبة وتيرة تبني الذكاء الاصطناعي لا يجب أن تأتي على حساب أمن بياناتك. وبصفتنا شريكك في الأمن السيبراني، يمكننا مساعدتك في اتباع إرشادات واضحة، ونشر نماذج لغوية خاصة وآمنة، وتزويد فريقك بالتدريب اللازم لاستخدام تقنيات الذكاء الاصطناعي بأمان وفعالية وثقة.
تواصل مع فريقنا الاستشاري اليوم لترى كيف نساعد في تأمين تبني مؤسستك للذكاء الاصطناعي.