توسّع شركة Exabeam نطاق تحليلات الوكلاء للكشف عن إساءة استخدام الذكاء الاصطناعي ومنع التهديدات الداخلي

أعلنت شركة Exabeam ، الرائدة في مجال تحليل سلوك الموظفين في المؤسسات الذكية، اليوم عن توسع كبير في خدمة Exabeam لتحليل سلوك الموظفين (ABA). فبدون رؤية مباشرة لكيفية استخدام الموظفين لمساعدي الذكاء الاصطناعي - من حيث استفساراتهم، والبيانات التي يشاركونها، وتكرار تفاعلهم، ومواقعهم الجغرافية - لا تستطيع المؤسسات تحديد السلوك الطبيعي للذكاء الاصطناعي، أو التحقيق في حالات إساءة الاستخدام المحتملة، أو اكتشاف التهديدات الداخلية الناشئة المتعلقة بالذكاء الاصطناعي.

إن الدعم الجديد لاكتشاف سلوك الوكيل في OpenAI ChatGPT و Microsoft Copilot ، إلى جانب الرؤية الحالية في Google Gemini، يحول خدمات الوكلاء هذه إلى مصادر غنية ببيانات قياس السلوك التي تغذي مباشرة سير عمل Exabeam للكشف عن التهديدات والتحقيق فيها والاستجابة لها (TDIR).

قال ستيف ويلسون، كبير مسؤولي الذكاء الاصطناعي والمنتجات في شركة إكسابيم: "تتطور أنظمة الذكاء الاصطناعي من مجرد روبوتات محادثة بسيطة إلى عمال رقميين مستقلين. فهي تُصادق على المستخدمين، وتصل إلى الأنظمة، وتُنفذ عمليات تجارية حقيقية. وعند اختراقها، غالبًا ما يبدو نشاطها مشروعًا. ولا تُعالج الضوابط المصممة لكشف عمليات الحقن السريع أو الهلوسة هذا الخطر. ويتطلب تأمين العمال الرقميين رؤية دقيقة للسلوك الأساسي والقدرة على اكتشاف الانحرافات الطفيفة قبل أن تتحول إلى حوادث جسيمة."

قال بيت هارتفيلد، الرئيس التنفيذي لشركة إكسابيم: "يُعيد الذكاء الاصطناعي تشكيل طريقة عمل المؤسسات وتنافسها ونموها بسرعة، مما يُنشئ قوة عاملة رقمية جديدة تُساعدها على التحرك بشكل أسرع وعلى نطاق واسع. ومع تسارع هذا التحول، يُصبح من الضروري على القادة فهم كيفية عمل هذه الأنظمة داخل المؤسسة. ويُساعد توسيع نطاق تحليلات سلوك الوكلاء المؤسسات على البقاء محمية من المخاطر الناشئة مع تبني الذكاء الاصطناعي بثقة والحفاظ على الإشراف والمساءلة اللازمين لنشر هذه القدرات في جميع أنحاء المؤسسة."

ولمواجهة هذه التهديدات سريعة التطور، قدمت شركة Exabeam خمس قدرات جديدة تعمل معًا لتوفير تغطية كاملة لسطح هجوم الوكلاء:

• تحديد خط الأساس لسلوك الذكاء الاصطناعي . يقوم Exabeam بإنشاء ملفات تعريف سلوكية ديناميكية للمستخدمين ووكلاء الذكاء الاصطناعي التابعين لهم، متتبعًا الأنماط عبر أحجام الطلبات، واستخدام الرموز المميزة، واستدعاءات الأدوات، وجلسات الويب، والنشاط الصادر. عندما ينحرف السلوك عن المعايير المحددة، مثل الارتفاعات المفاجئة في استدعاءات واجهة برمجة التطبيقات أو استهلاك الرموز المميزة، يقوم Exabeam بالإبلاغ عن هذا الشذوذ، مما يساعد فرق الأمن على اكتشاف سوء الاستخدام قبل تفاقمه.

• كشف إساءة استخدام الرسائل النصية والنماذج. يكشف Exabeam عن حقن الرسائل النصية، والتلاعب بالنماذج، واستغلال الأدوات قبل تفاقم الهجمات. تغطي مكتبة الكشف الجديدة، الأكبر بخمسة أضعاف من الإصدار السابق، كامل نطاق التهديدات: التلاعب بالرسائل النصية، ونشاط الذكاء الاصطناعي الخفي. يتم الكشف عن كل ذلك عند نقطة الدخول، وليس بعد وقوع الضرر.

• مراقبة الهوية والصلاحيات. بينما يتتبع نظام التقييم الأساسي سلوك الوكلاء، فإن مراقبة الهوية والصلاحيات تحدد ما يُسمح لهم بفعله. يكشف Exabeam عن أي شذوذ في أدوار منصة الذكاء الاصطناعي ومستخدميها وصلاحياتها، بما في ذلك تعيينات الأدوار لأول مرة، وتصعيدات الصلاحيات غير المتوقعة، وتغييرات الصلاحيات غير المعتادة، مما يضمن إدارة هويات الذكاء الاصطناعي بنفس دقة إدارة هويات المؤسسات التقليدية.

• مراقبة دورة حياة الوكلاء. يوفر Exabeam رؤية شاملة لإنشاء وكلاء الذكاء الاصطناعي وتعديلهم واستخدامهم، حيث يُظهر أحداث إنشاء الوكيل الأول واستدعائه كإشارات منفصلة وقابلة للتدقيق. وبذلك، تستطيع فرق الأمن تتبع دورة الحياة الكاملة لكل وكيل يعمل في بيئتها، مما يسد فجوة الحوكمة التي جعلت نشاط الوكلاء غير مرئي لمعظم المؤسسات.

• تغطية شاملة لأهم عشرة مخاطر أمنية في مجال الذكاء الاصطناعي الآلي وفقًا لتصنيف OWASP. يراقب Exabeam سلوك الوكلاء الآليين في ضوء هذه المخاطر، موفرًا بذلك تغطية قابلة للقياس لفئة تهديدات كانت تفتقر سابقًا إلى إطار عمل محدد. يُرسي هذا التوافق معيارًا لإدارة وحماية وكلاء الذكاء الاصطناعي في المؤسسات.

"مع دخولنا عصر الذكاء الاصطناعي، يُحدث التبني السريع لأنظمة الذكاء الاصطناعي - بما في ذلك منظومة متنامية من أدوات الذكاء الاصطناعي المؤسسية في جميع أنحاء مؤسستنا - تحولاً جذرياً في مشهد المخاطر"، صرّح نيثين ريدي، نائب الرئيس العالمي للأمن السيبراني في شركة داي فورس. "تعمل فرق الأمن اليوم في عالم يتفاعل فيه كل من البشر والأنظمة المستقلة مع الأنظمة والبيانات على نطاق واسع. لم تُصمم نماذج الكشف التقليدية لهذا الواقع. ما نحتاجه هو رؤية واضحة للسلوكيات وطريقة بسيطة لتقييم المخاطر. يوفر لنا Exabeam هذه الرؤية الواضحة، مما يساعدنا على التركيز على المخاطر الجوهرية بدلاً من تشتيت انتباهنا بآلاف الإشارات غير الضارة، ويتيح لنا وضع الضوابط المناسبة مع مواصلة تسريع ابتكارات الذكاء الاصطناعي في جميع أنحاء الشركة."

وتأتي هذه القدرات الجديدة مصحوبة بمجموعة واسعة من التحسينات عبر منصات Exabeam New-Scale و LogRhythm، المصممة لتحسين التجربة اليومية للمسؤولين ومحللي الأمن مع الاستمرار في تقديم رؤية عميقة واستجابة آلية تساعد الفرق على تبسيط سير العمل وتقليل إرهاق التنبيهات وتسريع اكتشاف التهديدات.