ميتا توقف شبكة حسابات مزيفة إسرائيلية علي الفيس بوك
كشفت شركة ميتا عن أنها عثرت على محتوى "من المحتمل أن يكون من إنتاج الذكاء الاصطناعي" مرتبط بشركة تكنولوجيا إسرائيلية استخدمت تعليقات مولدة ببرامج الذكاء الاصطناعي للإشادة بإسرائيل والتهجم على التظاهرات الطلابية في الجامعات الأمريكية.
وقالت شركة التواصل الاجتماعي، في تقرير أمني ربع سنوي، إن الحسابات تمثل طلابًا يهودًا وأمريكيين من أصل أفريقي وغيرهم من المواطنين المعنيين، وتستهدف الجماهير في الولايات المتحدة وكندا، ونسبت الحملة إلى شركة التسويق السياسي STOIC ومقرها تل أبيب.
وأوضحت "ميتا" أن الشبكة التي تضمنت 500 حساب على "فيسبوك" و32 حسابًا على "إنستجرام" مرتبطة بشركة إسرائيلية للتسويق الرقمي واستخبارات الأعمال، وتركت تعليقات على صفحات تابعة للمؤسسات الإعلامية، وعلى صفحات الشخصيات السياسية والعامة التي شملت المشرعين الأمريكيين.
وقد انتحلت هذه الحسابات شخصيات مواطنين أميركيين وكنديين، بالإضافة إلى طلاب يهود وأميركيين من أصل أفريقي، لكنها في الواقع حسابات زائفة أو مخترقة، إلا أن "ميتا" لم تربط شبكة الحسابات هذه بالحكومة الإسرائيلية مباشرة.
وبينما وجدت ميتا صورًا أساسية للملفات الشخصية تم إنشاؤها بواسطة الذكاء الاصطناعي في عمليات التأثير منذ عام 2019، فإن التقرير هو الأول الذي يكشف عن استخدام تقنية الذكاء الاصطناعي التوليدي المستندة إلى النصوص منذ ظهورها في أواخر عام 2022.
ويشعر الباحثون بالقلق من أن الذكاء الاصطناعي التوليدي، الذي يمكنه إنتاج نصوص وصور وصوتيات شبيهة بالإنسان بسرعة وبتكلفة زهيدة، يمكن أن يؤدي إلى حملات تضليل أكثر فعالية والتأثير على الانتخابات.
وفي مكالمة صحفية، قال المسئولون التنفيذيون في شركة Meta Security إنهم أزالوا الحملة الإسرائيلية مبكرًا ولا يعتقدون أن تقنيات الذكاء الاصطناعي الجديدة أعاقت قدرتهم على تعطيل شبكات التأثير، وهي محاولات منسقة لدفع الرسائل.
وقال المسئولون التنفيذيون إنهم لم يروا مثل هذه الشبكات تنشر صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي لسياسيين واقعية بما يكفي للخلط بينها وبين صور أصلية.
"هناك العديد من الأمثلة عبر هذه الشبكات حول كيفية استخدامهم لأدوات الذكاء الاصطناعي التوليدية المحتملة لإنشاء المحتوى، وربما يمنحهم ذلك القدرة على القيام بذلك بشكل أسرع أو القيام بذلك بحجم أكبر، لكنه لم يؤثر حقًا على قدرتنا على اكتشافهم وقال مايك دفيليانسكي، رئيس ميتا لتحقيقات التهديدات.
لقد تصارعت شركة ميتا وغيرها من عمالقة التكنولوجيا حول كيفية معالجة سوء الاستخدام المحتمل لتقنيات الذكاء الاصطناعي الجديدة، خاصة في الانتخابات، وقد وجد الباحثون أمثلة لمولدات الصور من شركات بما في ذلك OpenAI وMicrosoft التي تنتج صورًا تحتوي على معلومات مضللة متعلقة بالتصويت، على الرغم من أن تلك الشركات لديها سياسات ضد هذا المحتوى.
وقد ركزت الشركات على أنظمة وضع العلامات الرقمية لوضع علامة على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في وقت إنشائه، على الرغم من أن الأدوات لا تعمل على النص وأن الباحثين لديهم شكوك حول فعاليتها.
