نشر باحثو Google بحثًا جديدًا يوضح بالتفصيل طريقة جديدة للقبض على مرسلي البريد العشوائي الذين يستخدمون الذكاء الاصطناعي التوليدي لإغراق منصة Google بالرسائل غير المرغوب فيها والتغلب على مرشحات الجودة الخاصة بها. بينما يركز البحث على تحديد المحتوى غير المرغوب فيه لمحتوى الفيديو، فإن التقنيات الموضحة يمكن أن تعطي فكرة عن الأساليب التي يمكن أن تستخدمها Google في التعامل مع محتوى الويب غير المرغوب فيه. في الواقع، تناقش الورقة البحثية نظام تحديد الذكاء الاصطناعي التوليدي القائم على النص.
ويقال إن النظام الجديد هو “دفاع دقيق للغاية” ضد البريد الإلكتروني العشوائي المنسق الذي يعتمد على الذكاء الاصطناعي، مما يعني أنه من الممكن استخدام شيء مثل هذا. النظام الجديد يسمى نظام الإنهاء العنقودي القابل للتطوير (S-CTS) والورقة البحثية، الكشف القابل للتطوير عن الانحدار الاصطناعي العدائي وإساءة استخدام الوسائط المنسقة: نظام دفاع متعدد الوسائط يدعم LoRA.
هل يمكن استخدام هذا النظام في الرسائل النصية العشوائية الناتجة عن الذكاء الاصطناعي؟
ينجح النظام لأنه يبحث عن الهيكل التنظيمي للهجوم، وهو إعادة الاستخدام الجماعي لقالب سردي دلالي محدد بدلاً من تقييم مقاطع الفيديو المعزولة واحدة تلو الأخرى.
تصف الورقة البحثية أيضًا استخدام تضمينات النص، والمصطلحات البارزة، والسرد القالبي كجزء من مصنف المحتوى الخاص بها. إذا تم تحديد نسبة عالية من الحسابات في مجموعة البنية التحتية على أنها تستخدم نفس قوالب النص/الوسائط التي تم إنشاؤها بواسطة الذكاء الاصطناعي، فسيتم إنهاء المجموعة بأكملها.
التكيف بسرعة مع الأنواع الجديدة من البريد العشوائي الذي يعتمد على الذكاء الاصطناعي
تقول الورقة إنه عندما يتبنى المهاجمون نماذج توليدية جديدة، يمكن لشركة Google تكييف نظام الكشف عن البريد العشوائي الاصطناعي بشكل أسرع باستخدام التكيف منخفض الرتبة (LoRA) والتحسين الفوري التلقائي (APO) بدلاً من إعادة تدريب نموذج الذكاء الاصطناعي الضخم.
يكتبون:
“مصنف المرحلة 2 متخصص في اكتشاف الاتجاه الاصطناعي باستخدام تقنيات الضبط الدقيق بكفاءة المعلمات (PEFT)، وتحديدًا التكيف منخفض الرتبة (LoRA) والتحسين الفوري التلقائي (APO).
…يسمح هذا الأسلوب بالتكيف الفعال لمادة LLM الكبيرة (على سبيل المثال، Gemini 2.0 Flash) دون التكلفة الحسابية الباهظة للضبط الدقيق الكامل. على وجه التحديد، يقلل LoRA بشكل كبير من عدد المعلمات القابلة للتدريب ويقلل بشكل كبير من أثر الذاكرة، مما يسمح بالتنفيذ السريع والفعال من حيث التكلفة والاستدلال المتوازي على البنية التحتية القابلة للتطوير من مادة TPU.
…يسمح لنا APO بتصميم المطالبات التي تتكيف مع اتجاهات “Slop” الجديدة بشكل أسرع من إعادة تدريب نموذج كثيف. يمكننا إعادة تدريب محول LoRA بسرعة عندما يطلق المهاجمون نموذج GenAI جديد (مثل Sora أو Kling).”
الجملة-BERT (S-BERT) لتحديد النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي
الأمر الأكثر إثارة للاهتمام على الأرجح هو أن الباحثين يعترفون باستخدام Sentence-BERT (SBERT) كوسيلة لتحديد الجمل المتشابهة لغويًا.
يستشهدون بـ Sentence-BERT للتحقق من صحة الافتراض الأساسي لبحثهم: أن النص الآلي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يترك بصمة رياضية مميزة (“تضمينات النص”) يمكن اكتشافها.
ثم قاموا بالتمحور حول S-BERT لتسليط الضوء على سبب كون نظامهم (S-CTS) تقدمًا: لأنه لا يتوقف عند مطابقة تضمين النص. إنه يرقى إلى بنية LLM متعددة الوسائط ومكونة من مرحلتين والتي تقوم بتقييم أنماط النص هذه جنبًا إلى جنب مع بيانات شبكة الروبوت على مستوى البنية التحتية.
يكتب الباحثون:
“بالنسبة للمحتوى القائم على النص، تُستخدم أساليب مثل تضمينات النص التي تم إنشاؤها بواسطة نماذج مثل Sentence-BERT للكشف عن روايات الذكاء الاصطناعي المكتوبة. بالنسبة للوسائط المتعددة، تشمل التقنيات التقليدية التجزئة الإدراكية. ومع ذلك، يقدم الذكاء الاصطناعي التوليدي تحديات فريدة؛ يستخدم نظامنا خوارزميات خاصة تحلل المحتوى النصي ومحتوى الوسائط المتعددة لتحديد “العناصر التوليدية” – وهي علامات دقيقة للإنتاج الاصطناعي المشترك عبر القنوات.”
هنالك آخر ورقة بحثية عن Sentence-BERT (PDF) وإليك كيفية شرح فوائدها:
“في هذا المنشور، نقدم Sentence-BERT (SBERT)، وهو تعديل لشبكة BERT المدربة مسبقًا والتي تستخدم هياكل الشبكة السيامية والثلاثية لاشتقاق جمل ذات معنى دلالي يمكن مقارنتها باستخدام تشابه جيب التمام. وهذا يقلل من الجهد المبذول للعثور على الزوج الأكثر تشابهًا من 65 ساعة مع BERT / RoBERTa إلى حوالي 5 ثوانٍ مع SBERT، مع الحفاظ على الدقة من BERT.
نقوم بتقييم SBERT وSRoBERTa في مهام STS الشائعة ونقل مهام التعلم، حيث يتفوقان على أساليب تضمين الجملة الحديثة الأخرى.
بالنسبة إلى تحسين محركات البحث، يعد ذكر S-BERT لتحديد البريد العشوائي النصي المولد بالذكاء الاصطناعي أمرًا مثيرًا للاهتمام للغاية لأنه ليس شيئًا تعرفه صناعة تحسين محركات البحث حقًا. يؤدي هذا إلى توسيع معرفتنا بأنواع الخوارزميات المستخدمة لتحديد البريد العشوائي القائم على الذكاء الاصطناعي القائم على النص.
الآن، هذا هو الجزء المثير للاهتمام: لقد كان S-BERT موجودًا منذ سبع سنوات، ولم تكن صناعة تحسين محركات البحث (SEO) على علم به حقًا كشيء يمكن استخدامه لتحديد البريد العشوائي المستند إلى النص. وهذا لا يعني أن جوجل تستخدمه منذ سبع سنوات. وبالنظر إلى أن الذكاء الاصطناعي التوليدي لم يكن متاحًا على نطاق واسع إلا لبضع سنوات، فمن الممكن أن Sentence-BERT لم يتم استخدامه إلا مؤخرًا من قبل محركات البحث مثل Google لالتقاط الرسائل النصية العشوائية الناتجة عن الذكاء الاصطناعي.
يجري حل المشكلة
حدد الباحثون ثلاثة أسباب تجعل البريد الإلكتروني العشوائي المولد بالذكاء الاصطناعي خارج نطاق السيطرة ويطغى على الأساليب الحالية لاكتشاف المحتوى منخفض الجودة.
- أصبحت مشكلة المحتوى المنخفض الجودة الناتج عن الذكاء الاصطناعي “تحديًا هائلاً” للكشف والإمساك.
- تعترف الورقة بالقيود المفروضة على استراتيجيات التخفيف الحالية.
- إن التركيز على اكتشاف البريد العشوائي الناتج عن الذكاء الاصطناعي على مستوى المحتوى يفشل بشكل متزايد بسبب المقياس المصمم “للتغلب على مرشحات الجودة”.
يوضح الباحثون:
“تواجه منصات الفيديو عبر الإنترنت تحديًا هائلاً في اكتشاف وتخفيف تدفق “القذارة” الناتج عن الذكاء الاصطناعي والبريد الإلكتروني العشوائي الاصطناعي الذي ترتكبه جهات ضارة منسقة.
تم تصميم هذا المحتوى بشكل متزايد لاستغلال قيود الطب الشرعي للوسائط التقليدية، وغالبًا ما يستخدم الذكاء الاصطناعي التوليدي لإنتاج أشكال فريدة ومحلية من المواد الضارة أو منخفضة الجودة على نطاق واسع.
يفشل الاعتدال التقليدي الذي يركز على المحتوى في مواجهة استراتيجية الجيل العدائية المنسقة هذه.
تعتبر عبارة “الاختلافات المترجمة” مثيرة للاهتمام لأنها تشير إلى إنشاء “بصمات فريدة لمحتوى متطابق وظيفيًا”.
تستخدم الورقة البحثية عبارات مثل:
- “الاختلافات المحلية الفريدة”
- “محتوى متطابق وظيفيًا”
- “أشكال لا حصر لها وفريدة من البريد العشوائي المتطابق وظيفيًا”
هذا أكثر من مجرد إجراء تعديلات صغيرة على المحتوى هنا وهناك. إنهم يتحدثون عن مرسلي البريد العشوائي الذين ينشرون محتوى فريدًا لا نهائيًا “مطابقًا وظيفيًا” كوسيلة للالتفاف حول تحليل المحتوى التقليدي واستراتيجيات التخفيف. وهذا هو بالضبط سبب قيامهم بالتصغير لإلقاء نظرة على مجموعات من الحسابات لتحديد بصمات الأصابع الفعلية لمرسلي البريد العشوائي أو أتمتتهم.
تركز الورقة البحثية على تحديد البريد العشوائي للفيديو الناتج عن الذكاء الاصطناعي، ولكنها تطرح السؤال التالي: هل يمكن استخدام شيء كهذا لتحديد البريد العشوائي المستند إلى النص الناتج عن الذكاء الاصطناعي؟ إنه بالتأكيد شيء يجب مراعاته.
كيف يمكن لـ AI-Slop التغلب على مرشحات الجودة
هناك حقيقة مثيرة للاهتمام يشاركها الباحثون وهي أن انحدار الذكاء الاصطناعي الذي يتم إنشاؤه على نطاق واسع يمكن أن يطغى على مرشحات الجودة. ويشير الباحثون أيضًا إلى أن مرسلي البريد العشوائي يستخدمون “التكيف العدائي” للالتفاف حول مرشحات الجودة. ويعني التكيف العدائي التحديث المستمر للرسائل غير المرغوب فيها لتحديد الأنماط التي تمكنها من الانزلاق تحت “عتبة الانتهاك” الخاصة بالمنصة.
الحل
يقترح الباحثون نظامًا يبتعد عن تحديد حوادث البريد العشوائي الفردية من أجل التركيز على اكتشاف مجموعات البريد العشوائي التي تشير إلى أصل مشترك.
يكتب الباحثون:
“تقدم هذه الورقة نظامًا دفاعيًا جديدًا وقابلاً للتطوير مصممًا لمنصات الفيديو عبر الإنترنت (OVP) لتحديد وإنهاء مجموعات من الحسابات المنسقة التي تظهر انتشار المحتوى الاصطناعي العدائي.”
وطريقتهم في ذلك هي النظر إلى الأمر من زاويتين:
- مكون نمط المحتوى
هذا هو أحد مكونات التعلم الآلي الذي يبحث عن “السرديات المتكررة والمقولبة الشائعة في “النصوص المشتقة” التي ينشئها الذكاء الاصطناعي و”النصوص التي ينشئها الذكاء الاصطناعي” (أي النص/الحوار). وينظرون على وجه التحديد إلى المقياس من خلال تحديد “سلوكيات النشر غير البشرية وعالية التردد المميزة للنصوص الآلية”. - مكون البنية التحتية
يستخدم هذا خوارزميات Google لتحليل “إشارات البنية التحتية الخاصة” لتحديد مجموعات الحسابات التي من المحتمل إحصائيًا أن تكون ناشئة من نفس المؤسسة أو البرنامج النصي لبرنامج التشغيل الآلي.
تفاصيل نظام إنهاء المجموعة القابل للتطوير (S-CTS)
بدلاً من النظر إلى مقطع فيديو واحد مشبوه بشكل منفصل، يستخدم النظام نهج التعلم الآلي ذو شقين لاكتشاف شبكات كاملة من الحسابات الآلية (“شبكات الروبوت”) التي تغمر النظام الأساسي برسائل غير مرغوب فيها منخفضة الجودة يتم إنشاؤها بواسطة الذكاء الاصطناعي. وبالتالي، يتغير الهدف من تحديد الحالات الفردية للبريد العشوائي إلى تحديد عدة حسابات منفصلة تنتمي إلى نفس مرسلي البريد العشوائي أو البرامج النصية الآلية.
ينظر النظام إلى “الإشارات على مستوى البنية التحتية والأنماط السلوكية غير العضوية” لتجميع الحسابات ذات الصلة في “مجموعات الأجيال”. مجموعات الإنشاء هي مجموعات من الحسابات التي من المحتمل أن تستخدم نفس واجهة برمجة التطبيقات أو البرنامج النصي.
توضح الورقة:
“يستفيد هذا النهج من بنية متعددة الأوجه تتضمن مكونين أساسيين للتعلم الآلي:
كاشف قوي ومنسق لشبكة الروبوتات (عبر الارتباط بالحساب)
ومصنف الأنماط الاصطناعية.
والأهم من ذلك، أننا نقدم طبقة تعزيز متقدمة للذكاء الاصطناعي تستخدم نماذج اللغات الكبيرة (LLMs)، المتخصصة عبر التكيف منخفض الرتبة (LoRA) والتحسين الفوري التلقائي (APO)، لتحقيق فهم دلالي سريع وعالي الدقة لاتجاهات البريد العشوائي الاصطناعية الناشئة.
هل يعمل نظام S-CTS؟
نعم، تُظهر بيانات الاختبار الخاصة بهم أن النظام يؤدي إلى “تأثير كبير” في التقاط “مجموعات” البريد العشوائي بمستوى عالٍ من الدقة (الدقة).
يكتبون:
“توضح بيانات الاختبار التأثير الكبير للنظام، مما أدى إلى الإنهاء الناجح للمجموعات بدقة عالية تشمل قنوات مولدات البريد العشوائي الاصطناعية.
علاوة على ذلك، تعمل الأتمتة المعتمدة على LLM على تحسين الكفاءة التشغيلية بشكل كبير، مما يؤدي إلى مكاسب كبيرة في كفاءة المراجعة البشرية. يقدم هذا العمل تفاصيل تصميم نظام مهم يوفر قابلية التوسع الأساسية والمرونة العدائية ضد الهجمات التوليدية المتطورة.
الوجبات الجاهزة
بعض الحقائق المثيرة للاهتمام في هذه الورقة البحثية هي:
- يمكن أن تطغى مرشحات الجودة بطوفان من البريد العشوائي.
- تم الاستشهاد بـ Sentence-BERT على أنه يستخدم لالتقاط البريد العشوائي الناتج عن الذكاء الاصطناعي.
- يعد نظام إنهاء المجموعة القابل للتوسع أسلوبًا فريدًا لتحديد البريد العشوائي على مستوى المجموعة.
- يمكن لشركة Google التكيف بسرعة مع البريد العشوائي الناتج عن الذكاء الاصطناعي من خلال التكيف منخفض التصنيف (LoRA) والتحسين الفوري التلقائي (APO).
يُظهر هذا البحث، الذي يحمل عنوان “الكشف القابل للتطوير عن الانحدار الاصطناعي العدائي وإساءة استخدام الوسائط المنسقة: نظام دفاع متعدد الوسائط يدعم LoRA”، (PDF) مجموعة متنوعة من التقنيات التي تصفها Google لتحديد البريد العشوائي الناتج عن الذكاء الاصطناعي، بما في ذلك الرسائل النصية ورسائل الفيديو غير المرغوب فيها.
صورة مميزة بواسطة Shutterstock/Shutterstock AI
اكتشاف المزيد من قمم التجارية للأعمال
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
