في مقابلة أجريت معه مؤخرا، وصف نيناد توماشيف، كبير الباحثين في شركة جوجل ديب مايند، أنواع الفخاخ التي ينصبها الفاعلون الخبيثون من أجل السيطرة على الأنظمة، وأخذ الأموال، ونماذج الهروب من السجن دون أن يكون أي منها مرئيا للمستخدم العادي. وقال توماسيف إن هذا يحدث بالفعل.
وكلاء الذكاء الاصطناعي على نطاق واسع يوجهونهم نحو الفشل
سألت المضيفة هانا فراي عن الأفخاخ التي ينصبها الممثلون الخبيثون لعملاء الذكاء الاصطناعي، وأجاب توماشيف بأن هذا صحيح، فالناس ينصبون الأفخاخ لعملاء الذكاء الاصطناعي من أجل الاستفادة منهم لأغراض إجرامية. وأشار إلى أن الموثوقية الكاملة لكل تفاعل أمر ضروري، لكن حجم ما يحدث يوجهه إحصائيًا نحو الفشل.
سأل فراي:
“مجرد النظر إلى الجانب الآخر من هذا، أريد أيضًا أن أفكر في نوع عنصر الأمن السيبراني في هذا، لأنه مع تزايد عدد العملاء الذين يتفاعلون في العالم عبر الإنترنت وما إلى ذلك، سيكون هناك حتمًا أشخاص يحاولون استغلال نقاط ضعف العملاء.
أخبرني قليلاً عن الفخاخ العميلة التي ينصبها الناس”.
أجاب نيناد توماشيف أن الموضوع مخيف ورائع في نفس الوقت:
“أود أن أقول إن هذا موضوع مخيف ورائع في نفس الوقت. وأعتقد أنه أحد الأسباب الرئيسية لعدم نجاح هذا النوع من عمليات النشر على نطاق واسع، أليس كذلك؟
لأنه كما قلنا، إذا لم تكن هناك موثوقية كاملة للتفاعلات الفردية، فإن أي نظام على نطاق واسع يحتوي على العديد من التفاعلات من الطبيعي أن يفشل إحصائيًا.
ولأن هذه الأنظمة تتطلب الكثير من الحوسبة وبالتالي الطاقة والمال لتشغيلها، إذا لم تكن موثوقة، فهي مجرد فكرة غير ناجحة.
والفخاخ العميلة هي شيء كنا نفكر فيه منذ فترة طويلة الآن. يمكن أن تظهر بطرق مختلفة.
هناك العديد من أنواع الأفخاخ، ولكن الأمر يتلخص في عمل العملاء داخل البيئة. وفي هذا السياق، البيئة هي الويب.
إذا تم تسميم البيئة نفسها، إذا تم وضع الفخاخ، فقد يتعثر العملاء عليها عند التفاعل مع الويب.
وبعد ذلك، نعم، يمكن للأشخاص الخبيثين أو العملاء الخبيثين الذين ينشرهم الأشخاص الخبيثون وضع تلك الفخاخ ومن ثم اختراق الأنظمة حقًا.
أنواع مصائد العملاء التي يجب الحذر منها
ثم سألت المضيفة هانا فراي توماشيف عن كيفية وضع هذه الأفخاخ وقدم توماشيف أمثلة، مشيرًا إلى أن الأفخاخ لن تكون مرئية على موقع ويب ولكنها مع ذلك متاحة لعملاء الذكاء الاصطناعي. بعض ما وصفه سيبدو مألوفًا لدى كبار المسئولين الاقتصاديين في المدرسة القديمة الذين شاركوا في أشياء مثل إخفاء الهوية في الأيام الأولى لمحركات البحث.
قال توماسيف إن الرموز المميزة المخفية يمكن أن تكون مخفية ليستهلكها عملاء الذكاء الاصطناعي. تعد الرموز المميزة في هذا السياق إشارة إلى كيفية قيام الذكاء الاصطناعي بتقسيم الكلمات إلى تمثيلات للكلمات. عندما يقرأ الذكاء الاصطناعي الكلمات الموجودة على الصفحة، فإن ما يفعله هو تقسيمها إلى رموز مميزة. يمكن أن تكون الرموز المخفية غير مرئية تمامًا للبشر.
وذكر ثلاث طرق يمكن من خلالها نصب الفخاخ لعملاء الذكاء الاصطناعي:
- الرموز المخفية
- إخفاء ديناميكي
- المحتوى الذي يحفز كسر الحماية
سأل فراي:
“لذا، لا أعرف، نوع وكيل شراء النبيذ لحفل الزفاف ينتقل إلى تاجر نبيذ معين حيث يوجد البعض، وهو في الأساس حاقن سريع في موقع الويب يغير أهداف الوكيل؟ هل هذا هو الشيء الذي نتحدث عنه هنا؟”
أجاب توماشيف:
“هذه إحدى الطرق التي يمكن أن يحدث بها هذا، نعم. والسبب وراء احتمال مرور ذلك دون أن يلاحظه أحد هو، كما تعلمون، فيما يتعلق بكيفية تشفير صفحات الويب، هناك عناصر لا يتم عرضها بصريًا.
لذا، إذا كنا نتحدث عن وكيل ليس وكيل استخدام كمبيوتر مرئيًا يرى صفحة الويب، أعني البكسلات بنفس الطريقة التي يراها الإنسان، بل يستهلك التنسيق الفعلي للصفحة في تنسيقها الأولي، فيمكن أن يستهلك عن غير قصد تلك الرموز المميزة المخفية التي يمكن أن تجعله يفعل أشياء مختلفة عما كان مقصودًا، أليس كذلك؟
لكن هذه ليست الطريقة الوحيدة التي يمكن أن يحدث بها ذلك، لأن ما يمكن أن تفعله مواقع الويب الضارة، يمكنها أن تفعل ما نشير إليه بالإخفاء الديناميكي أيضًا، حيث تعرض الصفحات بشكل مختلف للبشر والوكلاء.
لأنه يمكنك، بناءً على السلوك الموجود على الصفحة، إجراء تخمين جيد جدًا حول ما إذا كان هذا الشخص إنسانًا أم أنه وكيل يتفاعل مع الصفحة. وبعد ذلك فقط إذا كان الوكيل يتفاعل مع الصفحة بهدف محدد، فقم بتعديل المحتوى بطريقة تؤدي إلى نوع من كسر الحماية.
استغلال وكلاء الذكاء الاصطناعي لسرقة الأموال من البشر
وأكد توماسيف أن المجرمين لا يستطيعون فقط سرقة الأموال من البشر الذين ينشرون عملاء الذكاء الاصطناعي، بل يؤكد أن ذلك قد حدث بالفعل. وقال إن هذا النوع من النشاط الإجرامي ليس أمرًا متوقعًا دائمًا عند اختبار النظام في بيئة موثوقة ولكنه يصبح واضحًا على الويب، وهي بيئة غير موثوقة.
سأل المضيف:
“ولكن مجرد المضي قدمًا قليلاً في هذا الشأن، يمكن أن يكون لديك مصائد عملاء هناك، لا أعلم، مصممة نوعًا ما … تأخذ المال منك للقيام بكل أنواع الأشياء.”
أجاب توماشيف:
“نعم، وقد حدث هذا للأشخاص الذين جربوا الوكلاء ومنحوهم إمكانية الوصول إلى المحافظ، للقيام بالأشياء.
كما قلت، في الأيام الأولى لكل هذا، عندما كنا نجري التجارب داخليًا أو مع أي شخص آخر، يتم ذلك في بيئة موثوقة. لذلك ليس عليك بالضرورة، في نماذجك الأولية، التعامل مع أي من هذا.
…ولكن بمجرد النشر على الويب، خاصة الآن مع استخدام الذكاء الاصطناعي بالفعل في جميع أنواع الأماكن، كلما زاد عدد العملاء، زادت الحوافز للأشخاص الخبيثين للقيام بأشياء ضارة لأن لديهم مساحة أكبر لاستهدافها.
كلما زاد عدد وكلاء الذكاء الاصطناعي كلما زاد الحافز
هذا الجزء الأخير المتعلق بالحافز الأعلى لاستهداف عملاء الذكاء الاصطناعي أمر منطقي. سرعان ما تصبح الأنظمة المستخدمة على نطاق واسع أهدافًا للمحتالين والمتسللين، ولهذا السبب يتم استهداف أنظمة مثل WordPress وWindows بشكل متكرر. ما يشير إليه توماسيف هو أنه بمجرد أن يصبح عملاء الذكاء الاصطناعي أكثر انتشارًا على نطاق واسع، فمن المحتمل أن نبدأ في رؤية المزيد من الأنشطة الإجرامية التي تركز على استغلال عملاء الذكاء الاصطناعي على الويب.
شاهد المقابلة في الدقيقة 23:
صورة مميزة/لقطة شاشة
اكتشاف المزيد من قمم التجارية للأعمال
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
