أطلقت شركة Exabeam برنامج Praxen مفتوح المصدر لتوفير التحقق من سلوك الوكلاء لوكلاء الذكاء الاصطناعي والعاملين الرقميين

أعلنت شركة Exabeam، الرائدة في مجال ذكاء السلوك للمؤسسات التي تعتمد على الوكلاء، اليوم عن التحقق من سلوك الوكيل (ABV)، وهو نظام أمني جديد يساعد المؤسسات على تحديد ما إذا كانت وكلاء الذكاء الاصطناعي قد تم تكوينها وتفويضها وإدارتها بطرق تتوافق مع مسؤولياتها المقصودة قبل النشر.

مع تحوّل أنظمة الذكاء الاصطناعي من مجرد مساعدين إلى عناصر تشغيلية فعّالة داخل بيئات المؤسسات، تواجه المنظمات تحديًا أمنيًا جديدًا. إذ تصل هذه الأنظمة إلى الأنظمة، وتستدعي الأدوات، وتنفذ مهام سير العمل، وتتخذ القرارات باستقلالية متزايدة. وبينما تساعد الأساليب الحالية، مثل فحص الثغرات الأمنية واختبارات الاختراق، في إدارة ومراقبة واختبار نشاط هذه الأنظمة أثناء التشغيل، تفتقر المنظمات إلى طريقة عملية لتحديد ما إذا كان النظام جاهزًا للعمل بأمان قبل دخوله مرحلة الإنتاج.

يعالج التحقق من سلوك الوكيل هذه الفجوة. فبدلاً من التركيز فقط على الثغرات الأمنية المعروفة أو أجزاء التعليمات البرمجية الفردية، يقوم التحقق من سلوك الوكيل بتقييم الوكلاء كنظم كاملة، مما يوفر إطار عمل لتحديد الدور المصرح به للوكيل وتقييم ما إذا كان تنفيذه وأذوناته وضوابطه تتوافق مع غرضه.

لمساعدة المؤسسات على تطبيق هذا التخصص عملياً، تقوم شركة Exabeam بإصدار Praxen، وهو تطبيق مرجعي مفتوح المصدر لـ ABV.

قال ستيف ويلسون، كبير مسؤولي الذكاء الاصطناعي في شركة إكسابيم ومؤسس ورئيس مشارك لمشروع OWASP Gen AI Security: "تنتقل المؤسسات بسرعة من مرحلة تجربة الذكاء الاصطناعي إلى مرحلة التطبيق العملي. ومع تحوّل البرامج الذكية إلى عمال رقميين، تحتاج فرق الأمن إلى أكثر من مجرد رؤية وقت التشغيل. إنهم بحاجة إلى التأكد من أن هذه البرامج لديها الصلاحيات والضوابط والحدود المناسبة قبل دخولها مرحلة الإنتاج. يساعد التحقق من سلوك البرنامج الذكي في الإجابة على سؤال جوهري: هل سيؤدي هذا البرنامج وظيفته فقط؟"

براكسن تُفعّل التحقق من سلوك الوكيل

تستخدم Praxen نطاق ABV - وهو عقد سياسة يحدد ما هو مصرح للوكيل بفعله، والموارد التي يمكنه الوصول إليها، والحدود التي يجب أن يعمل ضمنها - لمساعدة المطورين والمشغلين على التحقق مما إذا كان تنفيذ الوكيل وأدواته وتكويناته وذاكرته وعمليات التكامل وبيئة التشغيل الخاصة به تتوافق مع دوره المحدد.

من خلال تحديد الفجوات بين السلوك المقصود والسلوك المُنفَّذ والإبلاغ عنها، يُقدِّم براكسن توصيات عملية ويُسلِّط الضوء على المخاطر السلوكية للمطورين قبل النشر. تتضمن التقارير نتائج مُحدَّدة، وتوصيات للتحسين، ودرجة نضج شاملة لوضع أمان البرنامج.

وتابع ويلسون قائلاً: "تساعد أدوات الأمان التقليدية في تحديد الثغرات الأمنية في البرمجيات. أما براكسن، فيقيّم أمراً مختلفاً: ما إذا كانت قدرات الوكيل وصلاحياته وأدواته وضوابطه تتوافق مع الدور الذي أُذن له بأدائه. وهذا يعالج أحد أخطر المخاطر التي تُسببها الوكلاء المستقلون للغاية، ويؤسس قاعدة أقوى للحوكمة المستمرة طوال دورة حياة الوكيل."

يمثل التحقق من سلوك الوكيل الأساس قبل النشر لاستراتيجية أمان الوكيل الأوسع نطاقًا لشركة Exabeam، ويكمل ABA، الذي يساعد المؤسسات على تحديد سلوك الوكيل الشاذ أو المحفوف بالمخاطر في بيئات الإنتاج.

تم تصميم Praxen كمهارة وكيل برمجة فعّالة وتم إصداره بموجب ترخيص Apache 2.0، وهو مصمم ليكون شفافًا وقابلًا للتوسيع ويمكن الوصول إليه من قبل المطورين والباحثين وممارسي الأمن.

قالت شيري دوفيل، الرئيسة التنفيذية لشركة ميدجرام: "معظم أدوات الأمان تُخبرك بمواطن الضعف. أما براكسن فقد طرح سؤالاً مختلفاً تماماً: هل يتوافق سلوك هذا البرنامج البرمجي الفعلي مع الحوكمة أو نطاق العمل الذي صُمم من أجله؟". وأضافت: "لم يُقدّم لنا مسار المعالجة على مستوى الكود تقريراً للمخاطر نحتفظ به، بل قدّم لنا خارطة طريق هندسية دقيقة يُمكننا العمل عليها فوراً. في تطبيقات الذكاء الاصطناعي المؤسسية، تكمن المخاطر التشغيلية في الفجوة بين ما هو مُصرّح به للبرنامج البرمجي وما هو قادر عليه فعلياً".

تعزيز الشفافية والثقة في أنظمة الذكاء الاصطناعي المستقلة

تقوم شركة Exabeam بإصدار Praxen كمشروع مفتوح المصدر للمساعدة في تعزيز وتمكين ABV كأفضل ممارسة مفتوحة.

لا يزال قطاع البرمجيات بصدد تحديد كيفية إدارة وكلاء الذكاء الاصطناعي ومراقبتهم والتحقق من صحتهم. يتيح طرح براكسن كمصدر مفتوح للمطورين والباحثين والمتخصصين في مجال الأمن دراسة الإطار، والمساهمة في تحسينه، وتطبيق مبادئ التحقق القائم على الذكاء الاصطناعي في بيئاتهم الخاصة.

يتوفر برنامج Praxen الآن بموجب ترخيص Apache 2.0 هنا: https://open-agent-ai-security.github.io/praxen/