قامت Google بنقل “استخدام الكمبيوتر” من نموذج متخصص إلى Google Gemini 3.5 Flash، مما يجعل التحكم على نمط الوكيل في المتصفحات والتطبيقات وسير عمل سطح المكتب قدرة مدمجة بدلاً من منتج منفصل. وهذا يعني أن Gemini يمكنه الآن رؤية واجهات المستخدم والتفاعل معها، والتفكير فيما يوجد على شاشة الكمبيوتر، واتخاذ إجراءات مباشرة. حذر أحد كبار العلماء في Google DeepMind مؤخرًا من أن عملاء الذكاء الاصطناعي الموسعين يخلقون حوافز “للأشخاص الخبيثين للقيام بأشياء ضارة”.
يمكن للمطورين الآن إنشاء وكلاء يقومون بأكثر من مجرد استدعاء واجهات برمجة التطبيقات. يمكنهم أتمتة عمليات سير العمل الخاصة بواجهة المستخدم الرسومية فقط مثل اختبار البرامج، أو ملء النماذج، أو التنقل في لوحات المعلومات، أو استخدام التطبيقات القديمة دون الوصول إلى واجهة برمجة التطبيقات. وهذا يقلل من الاختناقات التي تواجه التشغيل الآلي ويوسع ما يمكن لوكلاء الذكاء الاصطناعي القيام به بشكل واقعي في الإنتاج.
إذا كان البرنامج يحتوي على واجهة مستخدم رسومية (GUI) ولكن لا توجد واجهة برمجة تطبيقات (API)، فلا يزال بإمكان وكيل الذكاء الاصطناعي استخدامه. يمكن أن يُطلب من الوكلاء تسجيل الدخول إلى لوحة المعلومات، وتصدير تقارير تحسين محركات البحث (SEO) بالأمس إلى جدول بيانات، ومقارنتها ببيانات الأسبوع الماضي، وإرسال ملخص إلى المستخدم عبر البريد الإلكتروني. يتم التعامل مع سير العمل باستخدام لغة طبيعية بدلاً من الاعتماد على البرامج النصية المخصصة لتوصيل لوحة المعلومات وجدول البيانات والبريد الإلكتروني.
ماذا يعني لكبار المسئولين الاقتصاديين
قد تصبح أدوات تحسين محركات البحث (SEO) أكثر فاعلية في المستقبل القريب. بدلاً من مجرد عرض البيانات، يمكن للذكاء الاصطناعي تسجيل الدخول إلى Google Search Console، وتدقيق المواقع، والزحف إلى موقع باستخدام Screaming Frog، واستخراج نقاط بيانات محددة للمقارنة، وتنفيذ مسارات عمل التحسين المتكررة.
بالنسبة لأصحاب المواقع، فإنه يحمل أيضًا ضمنيًا أن مجموعة أخرى من وكلاء الذكاء الاصطناعي قد يعملون “كزوار”، مما قد يؤثر على كيفية تفسير مالكي الموقع لتفاعلات الموقع وإشارات المشاركة لتحسين الموقع والمبيعات.
سيتم مهاجمة عملاء الذكاء الاصطناعي
يعد إعلان Google متفائلًا جدًا ولكن وثيقة “أفضل ممارسات السلامة” التي ترتبط بها تستحق الاهتمام بها لأن الفشل في الحصول على هذا الجزء بشكل صحيح قد يؤدي إلى السرقة وتجارب المستخدم السيئة الأخرى.
توضح الوثيقة:
“يمثل استخدام الكمبيوتر مخاطر أمنية وتشغيلية فريدة من نوعها، حيث قد يواجه النموذج الذي يعمل نيابة عن المستخدم محتوى غير موثوق به على الشاشات أو يرتكب أخطاء في تنفيذ الإجراءات.”
قد يكون هذا “المحتوى غير الموثوق به على الشاشات” إشارة إلى “الفخاخ” الموضوعة لعملاء الذكاء الاصطناعي والتي حذر منها كبير العلماء في Google DeepMind.
توصي Google بسبعة أفضل الممارسات عند استخدام وكيل الذكاء الاصطناعي الجديد هذا:
1. الإنسان في الحلقة (HITL):
فرض تأكيد المستخدم: عندما تشير استجابة السلامة إلى require_confirmation (أو يتطلب قرار السلامة القديم ذلك)، اطلب من المستخدم الموافقة.
توفير تعليمات السلامة المخصصة: قم بتنفيذ تعليمات النظام المخصصة لتحديد حدود السلامة الخاصة بك وتنفيذها.2. بيئة تنفيذ آمنة:
قم بتشغيل وكيلك في بيئة آمنة ومعزولة للحد من تأثيره المحتمل. يمكن أن يكون هذا جهازًا افتراضيًا معزولًا (VM)، أو حاوية (على سبيل المثال، Docker)، أو ملف تعريف متصفح مخصص بأذونات محدودة3. تعقيم المدخلات:
قم بتطهير جميع النصوص التي أنشأها المستخدم في المطالبات للتخفيف من مخاطر التعليمات غير المقصودة أو الحقن الفوري. هذه طبقة مفيدة من الأمان، ولكنها ليست بديلاً لبيئة التنفيذ الآمنة.4. حواجز حماية المحتوى:
استخدم حواجز الحماية وواجهات برمجة تطبيقات أمان المحتوى لتقييم مدخلات المستخدم ومدخلات الأداة ومخرجاتها واستجابات الوكيل فيما يتعلق بالملاءمة والحقن الفوري واكتشاف كسر الحماية.5. القوائم المسموح بها والقوائم المحظورة:
قم بتنفيذ آليات التصفية للتحكم في المكان الذي يمكن للنموذج التنقل فيه وما يمكنه فعله. تُعد القائمة المحظورة لمواقع الويب المحظورة نقطة انطلاق جيدة، في حين أن القائمة المسموح بها الأكثر تقييدًا تكون أكثر أمانًا.6. إمكانية الملاحظة والتسجيل:
الاحتفاظ بسجلات مفصلة لتصحيح الأخطاء والتدقيق والاستجابة للحوادث. يجب على عميلك تسجيل المطالبات ولقطات الشاشة والإجراءات المقترحة للنموذج (function_call) واستجابات الأمان وجميع الإجراءات التي ينفذها العميل في النهاية.7. إدارة البيئة:
تأكد من أن بيئة واجهة المستخدم الرسومية متسقة. قد تؤدي النوافذ المنبثقة أو الإشعارات أو التغييرات في التخطيط غير المتوقعة إلى إرباك النموذج. ابدأ من حالة معروفة ونظيفة لكل مهمة جديدة إن أمكن.
احذر من المواقع المليئة بالفخاخ
ومع نمو مساحات الهجوم، زاد احتمال سعي المتسللين لاستغلالها. ما يعنيه ذلك هو أنه مع تزايد عدد عملاء الذكاء الاصطناعي على الويب، سيحول المتسللون انتباههم إلى استغلالهم. تصبح مواقع الويب ساحة المعركة التي يشن منها المهاجمون هجمات على عملاء الذكاء الاصطناعي.
قال أحد كبار العلماء في Google DeepMind مؤخرًا إن الجهات الخبيثة تقوم بالفعل بوضع الفخاخ لسرقة الأموال من البشر من خلال استهداف عملاء الذكاء الاصطناعي الخاصين بها.
هذه ليست مبالغة. في هذا الشهر فقط، واجه خبير الأمن السيبراني في كاليفورنيا رسومًا غير مشروعة تم فرضها على بطاقته الائتمانية بسبب وكيل الذكاء الاصطناعي التابع لشركة Anthropic Claude. وفقًا للمقالة، يبدو أنه قام بتنزيل ملف Skills.md الذي ربما يحتوي على فخ عميل للذكاء الاصطناعي.
تقرير المقال:
“…لقد عثر على وظيفة إضافية بها مشكلات مرتبطة بكلود، يُشار إليها باسم “المهارة”، على غرار البرنامج الإضافي. “وهذا ما دفع كلود بشكل أساسي إلى محاولة شراء أنواع مختلفة من حسابات الهدايا على معلوماتي المخزنة. لذا، كان يستخدم المحفظة الرقمية التي كانت على جهاز الكمبيوتر الخاص بي لكي يبدأ كلود في إجراء عمليات الشراء هذه…'”
قد يحتاج مالكو المواقع إلى ضوابط أقوى للروبوتات والقدرة على تحديد متى يقوم المتسللون بإخفاء تعليمات الحقن الفوري على مواقعهم. ولكن هذا ليس شيئًا يبحث عنه أصحاب مواقع الويب، مما يضاعف المشكلة بالنسبة للمستخدمين الذين يستخدمون عوامل الذكاء الاصطناعي مثل تلك التي أصدرتها Google للتو.
اقرأ المزيد: Google DeepMind: مصائد عملاء الذكاء الاصطناعي تسرق الأموال بالفعل
صورة مميزة بواسطة Shutterstock / blockberry
اكتشاف المزيد من قمم التجارية للأعمال
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
