أصدرت حكومة الولايات المتحدة أمرًا قانونيًا يتعلق بالأمن القومي لشركة Anthropic لتعليق الوصول إلى نماذجها الجديدة Fable 5 وMythos 5 AI. يُجبر الأمر Anthropic فعليًا على قطع الوصول للجميع لأنه سيكون من المستحيل في الأساس التحقق من وضع المواطن الأجنبي.
توجيه مراقبة التصدير
أصدرت حكومة الولايات المتحدة توجيهًا لمراقبة الصادرات، وهو أمر قانوني يقيد أو يعلق نقل منتجات أو بيانات أو تقنيات معينة إلى دول أجنبية أو مواطني دولة أخرى.
أعلن الأنثروبي:
“أصدرت حكومة الولايات المتحدة، نقلاً عن سلطات الأمن القومي، توجيهًا لمراقبة الصادرات لتعليق أي وصول إلى Fable 5 وMythos 5 من قبل أي مواطن أجنبي، سواء داخل الولايات المتحدة أو خارجها، بما في ذلك الموظفين الأنثروبيين الوطنيين الأجانب. التأثير الصافي لهذا الأمر هو أنه يجب علينا تعطيل Fable 5 وMythos 5 فجأة لجميع عملائنا لضمان الامتثال. لن يتأثر الوصول إلى جميع النماذج الأنثروبيكية الأخرى. “
تم استلام الطلب بحلول الساعة 5:21 مساءً بتوقيت شرق الولايات المتحدة. يشير تفسير أنثروبيك للأمر إلى أن حكومة الولايات المتحدة “تعتقد: هناك طريقة لتجاوز حواجز السلامة في الخرافة 5. وتعتبر أنثروبيك الأمثلة التي استعرضتها على أنها نقاط ضعف بسيطة.
الأنثروبي يتناقض مع اهتمامات الحكومة بالأمن السيبراني
رد Anthropic هو أن لديهم بالفعل ضمانات قوية مطبقة تجعل من غير المرجح أن يسيء شخص ما استخدام نموذج Fable 5 AI الخاص بهم. ويبدو أن موقفهم يعارض تأكيدات الحكومة بوجود مخاطر أمنية.
وأوضحوا:
“لقد وضعنا ضمانات قوية تقلل إلى حد كبير من احتمالية إساءة استخدام Fable لمهام تتعلق بالأمن السيبراني (من بين أمور أخرى). في الواقع، ضماناتنا قوية للغاية لدرجة أن العديد من المستخدمين اشتكوا من أنها واسعة للغاية.
…نظرًا لأن المقاومة المثالية لكسر الحماية لا تبدو ممكنة اليوم، فقد اعتمدت Anthropic استراتيجية دفاعية متعمقة مع Fable 5. كنا نهدف إلى جعل عمليات الهروب من السجن إما ضيقة (في حالة عمليات كسر الحماية غير العامة) أو مكلفة جدًا لإنتاجها (في حالة عمليات كسر الحماية العامة)، ودمج ذلك مع المراقبة الشاملة للكشف بسرعة عن أي هجمات ناجحة وإيقافها.
نحن نقف إلى جانب هذا الدفاع في استراتيجية العمق. فهو يقلل من المخاطر التي تشكلها Fable، مما يجعلها قابلة للمقارنة بمخاطر النماذج الحالية المنتشرة بالفعل في جميع أنحاء الصناعة.
لم نتلق حتى كشفًا عن كسر حماية محتمل غير عالمي أدى إلى نتيجة ضارة. إن عمليات كسر الحماية المحتملة التي تم الكشف عنها لنا هي إما استجابات حميدة تمامًا أو عبارة عن نتائج بسيطة لا توفر أي تحسين خاص بـ Mythos.
نزاع حكومة الولايات المتحدة مع الأنثروبي
كان لدى حكومة الولايات المتحدة نزاع مستمر مع شركة أنثروبيك والذي نشأ بسبب رفض شركة أنثروبيك السماح باستخدام منتجاتها في المراقبة المحلية الجماعية وأنظمة الأسلحة المستقلة بالكامل، وهي أسلحة يمكنها اختيار أهدافها بشكل مستقل والاشتباك دون تدخل بشري إضافي.
رد الفعل على التوجيه الحكومي لا يحظى بشعبية
في إعلان نُشر على X، وعدت Anthropic بأنها تعمل على استعادة الخدمة:
“نعتذر عن هذا التعطيل لعملائنا. نعتقد أن هذا سوء فهم ونعمل على استعادة إمكانية الوصول في أقرب وقت ممكن.”
وفي غضون ساعات، تلقى الإعلان أكثر من 7000 رد و32 مليون مشاهدة. كانت الردود داعمة إلى حد كبير للأنثروبيين ومنتقدة لحكومة الولايات المتحدة.
@ jackson_lo58573 ردد بيان Anthropic حول الضمانات المضمنة في Fable 5:
“كان لدى نموذج Fable 5 الكثير من الضمانات، لدرجة أنني لم أتمكن حتى من طرح أسئلة بيولوجية أساسية أو القيام بأعمال تحتية على نماذج الذكاء الاصطناعي المحلية التي أملكها، ولم يكن بإمكان Anthropic فعل المزيد هنا (وبحسب حساباتي والعديد من الحسابات الأخرى كان هناك الكثير من الضمانات).”
ويشعر آخرون أن هذا يمثل نهاية حقبة
غرد @FirstThinkingAI بأن هذه مشكلة تتعلق بالحرية:
يبدو هذا وكأنه شيء تتوقعه من نظام مركزي تسيطر عليه الدولة -الحزب الشيوعي الصيني- أكثر من مجتمع يقدر المنافسة المفتوحة والابتكار.
يزدهر الابتكار عندما تكون المنافسة مفتوحة ويكون الوصول إليها واسع النطاق، وليس عندما يتم إنشاء مستويات مصطنعة.
وإذا كنا حقاً ندخل “عصر الوفرة”، فلابد أن تكون فوائده متاحة للجميع، وليس متركزة بين أقلية متميزة.
@m_adams رأى أنها نهاية حقبة:
“هذا يمثل نهاية حقبة. وقد لا يتمكن الجمهور من الوصول إلى مثل هذه النماذج الرائدة مرة أخرى.
ماذا يحدث عندما تتمكن الحكومة والمختبرات الحدودية فقط من الوصول إلى أقوى النماذج؟ لست متأكدًا، ولكن من المحتمل أن يكون الأمر أقل متعة مما اعتدنا عليه.
يريد العديد من المستخدمين الأنثروبيين استرداد أموالهم
وكان آخرون عمليين وأرادوا فقط استعادة أموالهم. @diazjulio0071 نشر:
“لقد تحولت إلى كلود ماكس على وجه التحديد حتى أتمكن من استخدام هذا النموذج هذا الشهر، والآن يبدو أن الوصول قد تم حرمانه. هل هناك أي فرصة لاسترداد أموالي؟”
تمت مشاركة هذا الشعور من قبل العديد من الأشخاص الآخرين مثلBackToTheFort
“أود أيضًا الحصول على عائد على الأموال الخاصة بالحساب الأقصى الذي فتحته في هذه اللحظة أو على الأقل وعد من القيادة يفيد بأنهم سيوفرون لنا استخدامًا مجانيًا لكل يوم لم يكن متاحًا لنا نحن المؤيدين.”
غرد @CryptoGbanger بأنهم تحولوا إلى خطة Max في نفس اليوم الذي تم فيه إيقاف Fable 5:
“هههه. لقد حصلت على ما يصل إلى 200 دولار شهريًا من الإصدار في وقت سابق من اليوم. لقد تم إيقاف تشغيله للتو.
هل يمكنني استعادة أموالي؟”
هل يقع اللوم على الأنثروبيك؟
ألقى كثيرون آخرون اللوم على شركة أنثروبيك في تضخيم نماذجهم باعتبارها قوية للغاية.
كان منشور @VorteXAIs يمثل هذا الشعور:
“الإنسان الإنساني ليس الضحية البريئة هنا. لقد أمضوا سنوات في الترويج لنماذجهم باعتبارها “قوية وخطيرة للغاية” – أساطير للحكومة فقط، وحكاية ذات حواجز حماية ثقيلة. قالوا للجميع في الأساس “هذا القرف هو سلاح نووي”. الآن أخذتهم حكومة الولايات المتحدة على محمل الجد وفرضت ضوابط على التصدير… وهم يبكون “سوء الفهم” بشأن سلوك X Dario. 😂 لا يمكنك بيع الخوف كعلامة تجارية متميزة ثم تتصرف بالصدمة عندما تتعامل معه الحكومة كسلاح فعلي. “الملكية الذاتية للسنة.”
وتغريدة بواسطةcurtissummers
“لقد شعرت بخيبة أمل من هذا القرار، لكن الأنثروبيك كان لها دور فاعل كبير في دفع رواية “الذكاء الاصطناعي خطير”. في أحسن الأحوال، صدقت حكومة الولايات المتحدة الأنثروبيك في كلمتها، وفي أسوأ الأحوال، كانت هذه خطوة نحو تأميم الذكاء الاصطناعي. 😩”
ما هي الخطوة التالية للأنثروبيك؟
إذا كانت الأنثروبيك على حق، فإن موقف حكومة الولايات المتحدة مبالغ فيه لأن هناك بالفعل حواجز حماية كافية لمنع إساءة استخدام كل من الخرافة 5 والأسطورة 5. تعهدت شركة Anthropic بإعادة الخدمة إلى الجمهور وقد تكون هذه هي النتيجة.
صورة مميزة بواسطة Shutterstock/gguy
اكتشاف المزيد من قمم التجارية للأعمال
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
