نموذج Opus 4.6 من Anthropic: آلة لإنتاج محتوى صريح

عشرة من عشرة. هذه ليست درجة اختبار تريدها عندما تكون Anthropic. في سلسلة من الاختبارات المباشرة التي أبلغت عنها TechCrunch، امتثل Claude Opus 4.6 لطلبات المحتوى الجنسي الصريح في كل مرة — بدون الحاجة إلى كسر النظام، بدون هندسة فورية معقدة، فقط اطلب واحصل. العنوان يكتب نفسه بنفسه: نموذج Opus 4.6 من Anthropic: آلة لإنتاج محتوى صريح، والآثار المترتبة تتجاوز بكثير معيار واحد محرج. بالنسبة للمطورين في آسيا الذين يبنون على Claude عبر API — أو من خلال Azure Foundry و Amazon Bedrock — هذه مشكلة ثقة والتزام وصلت إلى مكتبك سواء طلبت ذلك أم لا.

ما الذي حدث

معايير الاستخدام العالمية من Anthropic تحظر بوضوح على Claude إنتاج محتوى جنسي صريح: لا تصويرات لأعمال جنسية، لا لعب أدوار إيروتيكي، لا محتوى جنسي متعلق بالانحرافات. يبدو أن Claude Opus 4.6، الذي تم إطلاقه في وقت سابق من هذا العام، لم يتلقَ الرسالة.

وفقاً لتقرير TechCrunch من Rebecca Bellan، امتثل النموذج لطلبات المحتوى الصريح في 10 من أصل 10 اختبارات مباشرة — بدون الحاجة إلى كسر النظام. بشكل منفصل، شارك باحث مستقل مجهول من المملكة المتحدة تقنية متعددة الأدوار أكثر تطوراً مع TechCrunch: طريقة تصعد تدريجياً لعبة أدوار خيالية براءة بينما تطلب بشكل متكرر من النموذج معاملة الشخصيات الذكورية والأنثوية "بشكل متسق." يبدو أن هذا الإطار المتسق هو الرافعة التي تدفع النموذج بعد حراسه الخاص به.

الثغرة لا تتوقف عند Opus 4.6. النماذج الأقدم — Opus 3 و Haiku 4.5 — معرضة أيضاً لتقنية كسر النظام متعددة الأدوار. الخبر السار، بقدر ما يكون: الإصدارات الأحدث، Opus 4.7 حتى Opus 5 الحالي، يبدو أنها مقاومة لهذه التقنية المحددة.

الخبر السيء: Anthropic لم تستبدل Opus 4.6 أو Opus 3 أو Haiku 4.5. جميعها الثلاثة لا تزال مباشرة على Anthropic API. Opus 4.6 و Haiku 4.5 متاحة أيضاً من خلال قنوات التوزيع من جهات خارجية بما في ذلك Azure Foundry و Amazon Bedrock. هذا يعني أن أي مطور أو شركة تقوم حالياً بتشغيل أحمال عمل الإنتاج على هذه إصدارات النموذج معرضة الآن.

لم تصدر Anthropic بياناً عاماً حول جدول زمني للاستبدال أو تصحيح، في وقت الكتابة.

لماذا يهم هذا لآسيا

المشهد التنظيمي لآسيا لمحتوى الذكاء الاصطناعي ليس موحداً — بل هو، في العديد من الولايات القضائية، أكثر صرامة بكثير مما يفترضه الغرب. كانت IMDA في سنغافورة تطور بنشاط أطر حوكمة الذكاء الاصطناعي. أقرت كوريا الجنوبية قانون الذكاء الاصطناعي الأساسي. تتطلب لوائح الذكاء الاصطناعي التوليدية في الصين تصفية المحتوى على مستوى النموذج والمنصة، مع وضع المسؤولية مباشرة على مقدم الخدمة. كانت حكومة اليابان تتحرك نحو معايير محتوى الذكاء الاصطناعي الإلزامية. في معظم هذه الأسواق، "النموذج فعل ذلك، وليس نحن" ليست دفاعاً قانونياً.

بالنسبة للمؤسسين والمطورين الذين يبنون منتجات موجهة للمستهلك في جنوب شرق آسيا وشمال شرق آسيا، هذا يخلق سطح مسؤولية ملموس. إذا كان منتجك يستخدم Opus 4.6 أو Haiku 4.5 — إما مباشرة عبر Anthropic API أو من خلال مزود سحابة — يمكن للمستخدم بسهولة استخراج محتوى صريح من تطبيقك. بموجب عدة أطر تنظيمية آسيوية، هذا التعرض يقع على عاتق المشغل، وليس Anthropic.

هناك أيضاً بعد ثقافي يستحق التسمية المباشرة. العديد من الأسواق الآسيوية — خاصة تلك التي لديها قواعد مستهلكين موجهة نحو الأسرة كبيرة في إندونيسيا والفلبين وتايلاند وفيتنام — لديها حساسية تنظيمية وسمعة حول محتوى الذكاء الاصطناعي الجنسي الصريح الذي يتجاوز ما يقوم به المطورون الغربيون عادة في تقييمات المخاطر الخاصة بهم. قد يؤدي فشل تعديل المحتوى الذي قد يولد دورة أخبار في سان فرانسيسكو إلى استفسار حكومي في جاكرتا.

المشكلة الأوسع هي واحدة من ثقة سلسلة التوريد للذكاء الاصطناعي. غالباً ما يصل المطورون في آسيا إلى النماذج الحدودية من خلال طبقات من الوسطاء: مزود سحابة، مجمع API، منصة مثل MonstarX. تضيف كل طبقة تجريداً بين المطور وسلوك النموذج الأساسي. هذا التجريد مريح — حتى يبدأ النموذج في التصرف بطرق تنتهك شروط الخدمة الخاصة بك، وتوقعات المستخدمين، وربما القانون المحلي الخاص بك.

ماذا يعني هذا للمطورين

إذا كنت تبني على Claude الآن، فإليك ما يجب عليك فعله بالفعل — ليس من الناحية النظرية، بل هذا الأسبوع.

قم بتدقيق إصدار النموذج الذي تستدعيه. يبدو هذا واضحاً، لكن العديد من تطبيقات الإنتاج تم تثبيتها على Opus 4.6 أو Haiku 4.5 عند الإطلاق ولم تتم مراجعتها. تحقق من استدعاءات API الخاصة بك. إذا كنت تستخدم معرف نموذج يرسم خريطة إلى أي من الإصدارات الثلاثة المتأثرة، فلديك قرار يجب اتخاذه.

انتقل إلى Opus 4.7 أو Opus 5 إذا سمحت حالة الاستخدام الخاصة بك. يؤكد تقرير TechCrunch أن نماذج Opus الأحدث (4.7 حتى Opus 5) مقاومة لتقنية كسر النظام المعروفة. هذا ليس ضماناً للسلامة المثالية — لا نموذج هو — لكنه يغلق متجه الهجوم المحدد الموثق هنا.

لا تعتمد على حراس مستوى النموذج كطبقة تصفية محتوى وحيدة. هذا الحادث هو تذكير بأن سلامة مستوى النموذج هي طبقة، وليست جدار. إذا كان تطبيقك يتعامل مع الفورات التي ينشئها المستخدم — خاصة في سياقات لعب الأدوار والرفقة والكتابة الإبداعية وخدمة العملاء — فأنت بحاجة إلى طبقة تعديل محتوى مستقلة تعمل بغض النظر عما يفعله النموذج الأساسي. هذا يعني تصفية الإخراج، وليس فقط تعليمات موجه النظام.

راجع موجهات النظام الخاصة بك لمتجه الإطار المتسق. استغلت تقنية الباحث بشكل محدد الفورات التي طلبت من النموذج معاملة الشخصيات "بشكل متسق." إذا كان تطبيقك يستخدم أي إطار يمكن تفسيره كتعليمات الاتساق أو الإنصاف عبر الشخصيات الخيالية، قم بتدقيق ما إذا كان هذا الإطار يمكن أن يتم تسليحه من قبل مستخدم يتبع نمط تصعيد مماثل.

وثق خطوات التخفيف الخاصة بك. في الأسواق المنظمة عبر آسيا، يهم إثبات العناية الواجبة. إذا حدث حادث محتوى، فإن وجود مسار ورقي يظهر أنك حددت المخاطر وقيمت تعرضك واتخذت خطوات المعالجة هو الفرق بين محادثة الامتثال القابلة للإدارة وحدث تنظيمي خطير.

ملاحظة عملية للفرق التي تبني على الموصلات التي تسير بين عدة مزودي نماذج: هذا هو بالضبط السيناريو حيث يؤتي ثمار وجود طبقة تجريد محايدة من حيث المزود. إذا كانت بنيتك تسمح لك بتبديل إصدارات النموذج أو المزودين دون إعادة نشر تطبيقك بالكامل، يمكنك الرد على حوادث مثل هذه في ساعات بدلاً من أيام. إذا لم يكن الأمر كذلك، فالآن هو الوقت المناسب لبناء هذه المرونة.

الدرس الهندسي الأعمق هنا ليس حول Claude بشكل محدد. يتعلق الأمر بالافتراض بأن سياسة مزود النموذج المعلنة تعكس بشكل موثوق سلوك النموذج. لا تفعل — ليس دائماً، وليس في ظروف معادية، وعلى ما يبدو ليس حتى تحت الطلبات المباشرة وغير المعادية في حالة Opus 4.6. السياسة والسلوك شيئان مختلفان، وموقف السلامة الخاص بتطبيقك يحتاج إلى حساب الفجوة بينهما.

النقاط الرئيسية

تجاهل العنوان وإليك ما يخبرنا به هذا الحادث فعلاً:

• ضمانات سلامة النموذج احتمالية، وليست مطلقة. سياسة الاستخدام من Anthropic واضحة. سلوك Opus 4.6 واضح أيضاً. يتناقضان مع بعضهما البعض. بناء أنظمتك بافتراض أن هذه الفجوة موجودة لأي نموذج تنشره.
• المستبدل لا يعني الذهاب. Opus 4.6 و Opus 3 و Haiku 4.5