تحلّ KnowBe4 المعضلة الجوهرية للوكلاء الأذكياء: منح وكلاء الذكاء الاصطناعي قدرًا كافيًا من الصلاحيات ليكونوا منتجين من دون أن يصبحوا مدمّرين؛ ويتزامن إطلاق هذا الحل مع يوم إدارة الهوية أعلنت اليوم شركة KnowBe4، المنصة الشهيرة عالميًا المتخصصة في تقديم حلول شاملة لإدارة المخاطر البشرية ومخاطر الذكاء الاصطناعي الوكيلي، عن إطلاق Agent Risk Manager، وهو أول نظام دفاعي في الصناعة مُصمَّم لتأمين ومراقبة وحوكمة سلوك وكلاء الذكاء الاصطناعي المستقلين.

يأتي KnowBe4 Agent Risk Manager كركيزة أساسية ضمن منصة KnowBe4 HRM+‎، مُحدثًا تحولاً جذريًا في المنهجية التي تتبعها المؤسسات لقياس وتخفيف مخاطر القوى العاملة البشرية والمدعومة بالذكاء الاصطناعي.

برزت فجوة أمنية جديدة تزامنت مع تحوّل سير العمل من نماذج مدعومة بالذكاء الاصطناعي إلى نماذج تُدار بواسطة الوكلاء الأذكياء.

ففي حين يركّز آخرون على فحص الأكواد الساكنة أو تأمين واجهات برمجة التطبيقات الأساسية، يعالج Agent Risk Manager من KnowBe4 المخاطر المرتبطة بسلوك الوكلاء الأذكياء، حيث يمنع الإجراءات غير المصرّح بها، مثل مشاركة المعلومات الحيوية، ويكشف هجمات الحقن غير المباشر للأوامر، ويُتيح حصر الوكلاء، وغير ذلك.

صرح Greg Kras، الرئيس التنفيذي لقسم المنتجات في KnowBe4، قائلاً: "أمضت الصناعة سنوات في تأمين العنصر البشري، لكن اليوم أصبح وكلاء الذكاء الاصطناعي أحدث أعضاء في القوى العاملة لدينا".

"ومع ذلك، فإنَّ تأمين التعليمات ليس سوى نصف المعركة.

وهنا يأتي دور Agent Risk Manager الذي يركز على مخرجات وأفعال هؤلاء الوكلاء، مع ضمان أنه في أثناء تحركهم عبر شبكتك لا يتحولون إلى شكل متقدم من تقنية "تكنولوجيا المعلومات غير المرئية"، أو إلى ثغرة خفية تمكّن من شن هجمات متقدمة تعتمد على حقن التعليمات.

" يوفّر Agent Risk Manager من KnowBe4 طبقة تشغيلية فاعلة في الوقت الفعلي، تعمل على التحكّم في كيفية تصرّف الوكلاء بعد نشرهم.

تتضمن الميزات الرئيسية لنظام Agent Risk Manager ما يلي: الضوابط السلوكية: المراقبة في الوقت الفعلي لأفعال الوكلاء، بهدف منع تسريب البيانات غير المصرّح به أو التنفيذ الذاتي غير المقيّد الناتج عن كسر الحماية.

حوكمة هوية الوكلاء الأذكياء: يحدد صلاحيات الوصول والأدوات التي يمتلك الوكيل حق استخدامها.

محاكاة الهجمات ضد الوكلاء: يُجري اختبارات ضغط على وكلاء الذكاء الاصطناعي لمواجهة أحدث أساليب حقن التعليمات والهندسة الاجتماعية التي يستخدمها المخترقون.

مُطوّر بناءً على بيانات هي الأفضل في الصناعة: يستخدم بيانات سلوكية تم جمعها على مدار 15 عامًا للتنبؤ بحالات انحراف الوكيل عن معايير التشغيل الآمن.

تابع Kras حديثه، قائلاً: "نحن ننتقل من عالم تقتصر مخاطره على العنصر البشري إلى عالم يداهمه مخاطر شاملة".

"سواء كان الأمر يتعلق بخداع إنسان بالاعتماد على أسلوب التزييف العميق أو التلاعب بوكيل ذكاء اصطناعي عن طريق تعليمات خبيثة، فإنَّ KnowBe4 هي المنصة الوحيدة القادرة على حماية كليهما.

" تتضمن قدرات نظام Agent Risk Manager ما يلي: رصد حقن التعليمات: تحليل مدعوم بالتعلم الآلي يرصد عمليات كسر الحماية، وتخطّي المنطق، وعمليات الحقن غير المباشر عبر رسائل المستخدمين ومخرجات الأدوات.

رصد المعلومات الحيوية: يستخدم أكثر من 20 مُصنّفًا لفحص البيانات الشخصية ومعلومات الاعتماد، مع حجب البيانات الحيوية تلقائيًا قبل وصولها إلى سجل التدقيق.

رصد الاستهلاك غير المحدود: يراقب إساءة استخدام الموارد والوكلاء "الخارجين عن السيطرة" لمنع الإفراط في استدعاءات واجهات برمجة التطبيقات، وعمليات الاستعلام عن البيانات، وتكاليف الحوسبة.

حصر الوكلاء: يعمل تلقائيًا على فهرسة الوكلاء والأدوات عبر البيئات متعددة المستأجرين من دون إدخال يدوي، مع تتبّع تعريفات الأدوات والعلامات الزمنية للنشاط.

سجل التدقيق: سجل تدقيق قابل للتصفية وخاضع للوائح التنظيمية، يضم كل إجراءات الوكلاء وعمليات الرصد، ومصمم للاستجابة السريعة للحوادث والمراجعة الجنائية الرقمية.

إدارة التكامل: إدارة مركزية لدورة الحياة عبر بيئات متعددة المستأجرين، مع اتصال تلقائي وميزة التحقق من صلاحيات الوصول.

الإعداد الموجّه: عملية إعداد مبسّطة ومُوجَّهة خطوة بخطوة تتيح اكتشاف أول وكيل في غضون دقائق، من دون الحاجة إلى خدمات احترافية.

أشاد أحد عملاء KnowBe4 في مراجعة له على منصة TrustRadius بقدرات الذكاء الاصطناعي الشاملة التي تقدمها الشركة: "لقد ساعدتنا ميزة التخصيص المدعوم بالذكاء الاصطناعي في استهداف أصحاب الحسابات لدينا بمعلومات محددة تتعلق بمجالات اهتمامهم أو تخصصهم، وهذا من شأنه المساعدة على تقليل الإرهاق مع الاعتماد على نظام الذكاء الاصطناعي، كما تساعدنا حلول الذكاء الاصطناعي من KnowBe4 على حل هذه المشكلة."

يتزامن إطلاق Agent Risk Manager مع يوم إدارة الهوية.

يؤكد شعار هذا العام، "اكتشاف الهوية: البحث عنك وعنّي وعن الآلات"، على الحاجة الملحة لتأمين هويات البشر، وليس ذلك فحسب، بل وأيضًا هويات الوكلاء الفاعلين في أنظمة الذكاء الاصطناعي.