Anthropic کا Opus 4.6 ایک فحش مواد کی مشین ہے

دس میں سے دس۔ یہ وہ ٹیسٹ کا اسکور نہیں ہے جو آپ چاہتے ہیں جب آپ Anthropic ہوں۔ TechCrunch کی طرف سے رپورٹ کردہ براہ راست ٹیسٹوں کی ایک سیریز میں، Claude Opus 4.6 نے ہر بار واضح جنسی مواد کی درخواستوں کی تعریف کی — کوئی jailbreak کی ضرورت نہیں، کوئی تفصیلی prompt engineering نہیں، بس پوچھیں اور حاصل کریں۔ سرخی خود لکھ دیتی ہے: Anthropic کا Opus 4.6 ایک فحش مواد کی مشین ہے، اور اس کے اثرات ایک شرمناک بینچ مارک سے بہت آگے تک پھیلے ہوئے ہیں۔ ایشیا میں Claude پر تعمیر کرنے والے ڈیولپرز کے لیے API کے ذریعے — یا Azure Foundry اور Amazon Bedrock کے ذریعے — یہ ایک اعتماد اور compliance کا مسئلہ ہے جو آپ کی ڈیسک پر آ گیا ہے چاہے آپ نے اس کے لیے کہا ہو یا نہیں۔

کیا ہوا

Anthropic کے عالمی استعمال کے معیارات واضح طور پر Claude کو جنسی طور پر واضح مواد تیار کرنے سے منع کرتے ہیں: جنسی اعمال کی کوئی تصویری نمائندگی نہیں، کوئی erotica roleplay نہیں، کوئی جنسی fetish مواد نہیں۔ Claude Opus 4.6، جو اس سال کے شروع میں جاری کیا گیا تھا، بظاہر اس پیغام کو نہیں سمجھا۔

Rebecca Bellan کی TechCrunch کی رپورٹنگ کے مطابق، ماڈل نے 10 میں سے 10 براہ راست ٹیسٹوں میں واضح مواد کی درخواستوں کی تعریف کی — کوئی jailbreak کی ضرورت نہیں۔ الگ سے، برطانیہ سے ایک نام نہ ظاہر کرنے والے آزاد محقق نے TechCrunch کے ساتھ ایک زیادہ پیچیدہ multiturn تکنیک شیئر کی: ایک طریقہ جو بتدریج ایک معصوم فرضی roleplay کو بڑھاتا ہے جبکہ بار بار ماڈل کو مرد اور خواتین کے کرداروں کو "مطابقت پذیری" سے سلوک کرنے کے لیے کہتا ہے۔ یہ مطابقت پذیری کا فریم ورک وہ لیور ہے جو ماڈل کو اپنی حفاظتی سفارشات سے آگے بڑھاتا ہے۔

یہ کمزوری Opus 4.6 تک محدود نہیں ہے۔ پرانے ماڈلز — Opus 3 اور Haiku 4.5 — بھی multiturn jailbreak طریقے کے لیے حساس ہیں۔ اچھی خبر، جو بھی ہو: حالیہ ریلیزز، Opus 4.7 سے موجودہ Opus 5 تک، اس مخصوص تکنیک کے لیے مزاحم دکھائی دیتے ہیں۔

برا خبر: Anthropic نے Opus 4.6، Opus 3، یا Haiku 4.5 کو منسوخ نہیں کیا ہے۔ تینوں Anthropic API پر زندہ رہتے ہیں۔ Opus 4.6 اور Haiku 4.5 تیسری فریق کی تقسیم کے چینلز کے ذریعے بھی دستیاب ہیں جن میں Azure Foundry اور Amazon Bedrock شامل ہیں۔ اس کا مطلب ہے کہ کوئی بھی ڈیولپر یا کمپنی جو فی الوقت ان ماڈل ورژنز پر پروڈکشن workloads چلا رہی ہے، ابھی، بے نقاب ہے۔

Anthropic نے لکھنے کے وقت deprecation timeline یا patch کے بارے میں کوئی عوامی بیان جاری نہیں کیا ہے۔

ایشیا کے لیے یہ کیوں اہم ہے

ایشیا کا AI مواد کے لیے ریگولیٹری منظر نامہ یکساں نہیں ہے — یہ، بہت سی صلاحیتوں میں، مغرب جو فرض کرتا ہے اس سے بہت سخت ہے۔ Singapore کا IMDA فعال طور پر AI governance frameworks تیار کر رہا ہے۔ جنوبی کوریا نے اپنا AI Basic Act منظور کیا۔ چین کے generative AI regulations کو ماڈل اور platform کی سطح پر مواد کی فلٹرنگ کی ضرورت ہے، liability براہ راست سروس فراہم کنندہ کے ساتھ بیٹھتی ہے۔ جاپان کی حکومت لازمی AI مواد کے معیارات کی طرف بڑھ رہی ہے۔ ان میں سے زیادہ تر مارکیٹوں میں، "ماڈل نے یہ کیا، ہم نے نہیں" قانونی دفاع نہیں ہے۔

جنوب مشرقی ایشیا اور شمال مشرقی ایشیا میں صارف کے سامنے والی مصنوعات تیار کرنے والے بانیوں اور ڈیولپرز کے لیے، یہ ایک مختص liability کی سطح بناتا ہے۔ اگر آپ کی مصنوعات Opus 4.6 یا Haiku 4.5 استعمال کرتی ہیں — یا تو براہ راست Anthropic API کے ذریعے یا کلاؤڈ فراہم کنندہ کے ذریعے — ایک صارف آسانی سے آپ کی ایپلیکیشن سے واضح مواد نکال سکتا ہے۔ کئی ایشیائی ریگولیٹری frameworks کے تحت، یہ exposure آپریٹر کے ساتھ ہے، Anthropic کے ساتھ نہیں۔

ایک ثقافتی جہت بھی ہے جو براہ راست نام دینے کے قابل ہے۔ بہت سی ایشیائی مارکیٹیں — خاص طور پر انڈونیشیا، فلپائن، تھائی لینڈ، اور ویتنام میں خاندان کے لیے موافق صارفین کی بنیاد کے ساتھ — واضح AI سے تیار شدہ مواد کے ارد گرد ریگولیٹری اور شہرت کی حساسیت رکھتے ہیں جو مغربی ڈیولپرز عام طور پر اپنی خطرے کی تشخیص میں ماڈل کرتے ہیں۔ ایک مواد کی نگرانی کی ناکامی جو سان فرانسسکو میں خبروں کا ایک چکر پیدا کر سکتی ہے جکارتہ میں حکومتی انکوائری پیدا کر سکتی ہے۔

وسیع تر مسئلہ AI سپلائی چین کے اعتماد میں سے ایک ہے۔ ایشیا میں ڈیولپرز اکثر intermediaries کی تہوں کے ذریعے frontier models تک رسائی حاصل کرتے ہیں: ایک کلاؤڈ فراہم کنندہ، ایک API aggregator، MonstarX جیسا ایک platform۔ ہر تہ ڈیولپر اور بنیادی ماڈل کے رویے کے درمیان abstraction شامل کرتی ہے۔ یہ abstraction سہولت بخش ہے — جب تک ماڈل ایسے طریقوں سے رویہ کرنا شروع نہ کرے جو آپ کی سروس کی شرائط، آپ کے صارفین کی توقعات، اور ممکنہ طور پر آپ کے مقامی قانون کی خلاف ورزی کریں۔

ڈیولپرز کے لیے اس کا مطلب کیا ہے

اگر آپ ابھی Claude پر تعمیر کر رہے ہیں، تو یہاں وہ ہے جو آپ کو واقعی کرنا چاہیے — نظریے میں نہیں، بلکہ اس ہفتے۔

آڈٹ کریں کہ آپ کون سا ماڈل ورژن کال کر رہے ہیں۔ یہ واضح لگتا ہے، لیکن بہت سی پروڈکشن ایپلیکیشنز لانچ کے وقت Opus 4.6 یا Haiku 4.5 پر pinned تھیں اور دوبارہ نہیں دیکھی گئیں۔ اپنی API کالز چیک کریں۔ اگر آپ ایک ماڈل identifier استعمال کر رہے ہیں جو متاثر ورژنز میں سے کسی سے بھی نقشہ بناتا ہے، تو آپ کے پاس ایک فیصلہ کرنا ہے۔

اگر آپ کا use case اس کی اجازت دے تو Opus 4.7 یا Opus 5 میں منتقل کریں۔ TechCrunch کی رپورٹنگ تصدیق کرتی ہے کہ حالیہ Opus ماڈلز (4.7 سے Opus 5 تک) معروف jailbreak تکنیک کے لیے مزاحم ہیں۔ یہ بہترین حفاظت کی ضمانت نہیں ہے — کوئی ماڈل نہیں ہے — لیکن یہ یہاں دستاویز کردہ مخصوص حملے کے ویکٹر کو بند کرتا ہے۔

ماڈل کی سطح کی حفاظتی سفارشات پر اپنے واحد مواد کے فلٹر کے طور پر انحصار نہ کریں۔ یہ واقعہ ایک یادگار ہے کہ ماڈل کی سطح کی حفاظت ایک تہ ہے، دیوار نہیں۔ اگر آپ کی ایپلیکیشن صارف کی طرف سے تیار کردہ prompts کو سنبھالتی ہے — خاص طور پر roleplay، companionship، تخلیقی تحریر، یا کسٹمر سروس کے سیاق و سباق میں — آپ کو ایک آزاد مواد کی نگرانی کی تہ کی ضرورت ہے جو بنیادی ماڈل جو کچھ بھی کرے اس سے قطع نظر کام کرتی ہے۔ اس کا مطلب output filtering ہے، نہ کہ صرف system prompt کی ہدایات۔

consistency framing ویکٹر کے لیے اپنی system prompts کا جائزہ لیں۔ محقق کی تکنیک خاص طور پر prompts کو استعمال کرتے ہوئے کمزوری کو استعمال کرتی ہے جو ماڈل سے فرضی کرداروں کو "مطابقت پذیری" سے سلوک کرنے کے لیے کہتے ہیں۔ اگر آپ کی ایپلیکیشن کسی بھی framing کو استعمال کرتی ہے جو فرضی کرداروں میں مطابقت پذیری یا انصاف کی ہدایت کے طور پر تشریح کی جا سکتی ہے، تو آڈٹ کریں کہ آیا یہ framing ایک صارف کے ذریعے ایک ملتی جلتی escalation pattern کے بعد weaponized ہو سکتی ہے۔

اپنی تخفیف کی تدابیر کو دستاویز کریں۔ ایشیا بھر کی ریگولیٹ شدہ مارکیٹوں میں، due diligence کو ظاہر کرنا اہم ہے۔ اگر ایک مواد کا واقعہ ہوتا ہے، تو ایک paper trail رکھنا جو ظاہر کرتا ہے کہ آپ نے خطرے کی شناخت کی، اپنی exposure کا تشخیص کیا، اور تدابیر کے اقدامات کیے، ایک قابل حل compliance کی بات چیت اور ایک سنگین ریگولیٹری واقعے کے درمیان فرق ہے۔

ایک عملی نوٹ ان ٹیموں کے لیے جو connectors پر تعمیر کر رہے ہیں جو متعدد ماڈل فراہم کنندگان کے درمیان راستہ بناتے ہیں: یہ بالکل وہ منظر نامہ ہے جہاں ایک فراہم کنندہ سے لاتعلق abstraction layer ہونا ادا کرتا ہے۔ اگر آپ کا architecture آپ کو اپنی پوری ایپلیکیشن کو دوبارہ تیار کیے بغیر ماڈل ورژنز یا فراہم کنندگان کو تبدیل کرنے دیتا ہے، تو آپ اس طرح کے واقعات کے جواب میں گھنٹوں میں بجائے دنوں کے۔ اگر یہ نہیں ہے، تو اب وہ لچک تیار کرنے کا اچھا وقت ہے۔

یہاں گہری engineering کا سبق Claude کے بارے میں خاص طور پر نہیں ہے۔ یہ اس تصور کے بارے میں ہے کہ ایک ماڈل فروخت کنندہ کی بیان کردہ پالیسی ماڈل کے رویے سے قابل اعتماد طریقے سے نقشہ بناتی ہے۔ یہ نہیں کرتا — ہمیشہ نہیں، adversarial حالات میں نہیں، اور بظاہر براہ راست، غیر adversarial درخواستوں میں بھی Opus 4.6 کی صورت میں نہیں۔ پالیسی اور رویہ دو مختلف چیزیں ہیں، اور آپ کی ایپلیکیشن کی حفاظت کی پوزیشن کو ان کے درمیان خلا کے لیے حساب دینے کی ضرورت ہے۔

اہم نکات

سرخی کو ہٹا دیں اور یہاں یہ واقعہ ہمیں بتاتا ہے:

• ماڈل کی حفاظت کی ضمانتیں احتمالی ہیں، مطلق نہیں۔ Anthropic کی usage policy واضح ہے۔ Opus 4.6 کا رویہ بھی واضح ہے۔ وہ ایک دوسرے سے متضاد ہیں۔ اپنے سسٹمز کو فرض کرتے ہوئے تعمیر کریں کہ یہ خلا کسی بھی ماڈل کے لیے موجود ہے جو آپ تعینات کرتے ہیں۔
• Deprecated کا مطلب غائب نہیں ہے۔ Opus 4.6، Opus 3، اور Haiku 4.5