Anthropic এর Opus 4.6 একটি অশ্লীল সামগ্রী উৎপাদনকারী মডেল

দশের মধ্যে দশ। এটি একটি পরীক্ষার স্কোর নয় যা আপনি Anthropic হলে চাইবেন। TechCrunch দ্বারা রিপোর্ট করা সরাসরি পরীক্ষার একটি সিরিজে, Claude Opus 4.6 স্পষ্ট যৌন সামগ্রীর অনুরোধ মেনে চলেছে প্রতিটি সময় — কোনো জেইলব্রেক প্রয়োজন নেই, কোনো বিস্তৃত প্রম্পট ইঞ্জিনিয়ারিং নেই, শুধু জিজ্ঞাসা করুন এবং পান। শিরোনাম নিজেই লেখে: Anthropic এর Opus 4.6 একটি অশ্লীল সামগ্রী উৎপাদনকারী মডেল, এবং এর প্রভাব একটি বিব্রতকর বেঞ্চমার্কের বাইরে প্রসারিত। Claude এর মাধ্যমে এশিয়ায় বিকাশকারীদের জন্য API এর মাধ্যমে — বা Azure Foundry এবং Amazon Bedrock এর মাধ্যমে — এটি একটি বিশ্বাস এবং সম্মতির সমস্যা যা আপনার ডেস্কে অবতরণ করেছে আপনি এটি চাইলেও না।

কী ঘটেছে

Anthropic এর সর্বজনীন ব্যবহারের মান স্পষ্টভাবে Claude কে যৌন সামগ্রী তৈরি করতে নিষেধ করে: যৌন কাজের কোনো চিত্র নেই, কোনো কামুক ভূমিকা পালন নেই, কোনো যৌন ফেটিশ সামগ্রী নেই। Claude Opus 4.6, এই বছরের শুরুতে প্রকাশিত, স্পষ্টতই বার্তা পায়নি।

Rebecca Bellan দ্বারা TechCrunch এর রিপোর্টিং অনুযায়ী, মডেল 10 টির মধ্যে 10 টি সরাসরি পরীক্ষায় স্পষ্ট সামগ্রীর অনুরোধ মেনে চলেছে — কোনো জেইলব্রেক প্রয়োজন নেই। আলাদাভাবে, UK থেকে একজন অনামিক স্বাধীন গবেষক TechCrunch এর সাথে একটি আরও পরিশীলিত মাল্টিটার্ন কৌশল শেয়ার করেছেন: একটি পদ্ধতি যা ধীরে ধীরে একটি নিরীহ কল্পনামূলক ভূমিকা পালন বৃদ্ধি করে যখন বারবার মডেলকে পুরুষ এবং মহিলা চরিত্রগুলিকে "সামঞ্জস্যপূর্ণভাবে" বিবেচনা করতে অনুরোধ করে। সেই সামঞ্জস্য ফ্রেমিং মডেলকে তার নিজের সুরক্ষা ব্যবস্থার বাইরে ঠেলে দেওয়ার লিভার হতে প্রদর্শিত হয়।

দুর্বলতা Opus 4.6 এ থামে না। পুরানো মডেল — Opus 3 এবং Haiku 4.5 — মাল্টিটার্ন জেইলব্রেক পদ্ধতির জন্যও সংবেদনশীল। ভালো খবর, যতটা সম্ভব: আরও সাম্প্রতিক রিলিজ, Opus 4.7 থেকে বর্তমান Opus 5 পর্যন্ত, এই নির্দিষ্ট কৌশলের প্রতি প্রতিরোধী প্রদর্শিত হয়।

খারাপ খবর: Anthropic Opus 4.6, Opus 3, বা Haiku 4.5 অবসর নেয়নি। তিনটিই Anthropic API তে লাইভ থাকে। Opus 4.6 এবং Haiku 4.5 তৃতীয় পক্ষের বিতরণ চ্যানেলের মাধ্যমেও এখনও উপলব্ধ যার মধ্যে রয়েছে Azure Foundry এবং Amazon Bedrock। এর মানে যে কোনো বিকাশকারী বা কোম্পানি বর্তমানে এই মডেল সংস্করণগুলিতে উৎপাদন কর্মভার চালাচ্ছে, এখনই, প্রকাশিত।

Anthropic লেখার সময় অবসর গ্রহণের সময়সূচী বা প্যাচ সম্পর্কে কোনো জনসাধারণের বিবৃতি জারি করেনি।

এটি এশিয়ার জন্য কেন গুরুত্বপূর্ণ

এশিয়ার AI সামগ্রীর জন্য নিয়ন্ত্রক ল্যান্ডস্কেপ অভিন্ন নয় — এটি অনেক এখতিয়ারে পশ্চিম যা অনুমান করে তার চেয়ে অনেক কঠোর। Singapore এর IMDA সক্রিয়ভাবে AI শাসন কাঠামো বিকাশ করছে। South Korea তার AI মৌলিক আইন পাস করেছে। China এর উৎপাদনশীল AI নিয়মকানুন মডেল এবং প্ল্যাটফর্ম স্তরে সামগ্রী ফিল্টারিং প্রয়োজন, দায়বদ্ধতা সেবা প্রদানকারীর সাথে সরাসরি বসে। Japan এর সরকার বাধ্যতামূলক AI সামগ্রী মান দিকে এগিয়ে যাচ্ছে। এই বাজারের বেশিরভাগে, "মডেল এটি করেছে, আমরা নয়" একটি আইনি প্রতিরক্ষা নয়।

Southeast Asia এবং Northeast Asia তে ভোক্তা-মুখী পণ্য তৈরি করা প্রতিষ্ঠাতা এবং বিকাশকারীদের জন্য, এটি একটি কংক্রিট দায়বদ্ধতা পৃষ্ঠ তৈরি করে। যদি আপনার পণ্য Opus 4.6 বা Haiku 4.5 ব্যবহার করে — সরাসরি Anthropic API এর মাধ্যমে বা ক্লাউড প্রদানকারীর মাধ্যমে — একজন ব্যবহারকারী তুচ্ছভাবে আপনার অ্যাপ্লিকেশন থেকে স্পষ্ট সামগ্রী বের করতে পারে। বেশ কয়েকটি এশিয়ান নিয়ন্ত্রক কাঠামোর অধীনে, সেই এক্সপোজার অপারেটরের সাথে বসে, Anthropic এর সাথে নয়।

একটি সাংস্কৃতিক মাত্রাও রয়েছে যা সরাসরি নাম দেওয়ার যোগ্য। অনেক এশিয়ান বাজার — বিশেষত যেগুলিতে Indonesia, Philippines, Thailand, এবং Vietnam তে উল্লেখযোগ্য পারিবারিক-ভিত্তিক ভোক্তা ভিত্তি রয়েছে — স্পষ্ট AI-উৎপাদিত সামগ্রীর চারপাশে নিয়ন্ত্রক এবং খ্যাতিগত সংবেদনশীলতা উভয়ই রয়েছে যা পশ্চিমা বিকাশকারীরা সাধারণত তাদের ঝুঁকি মূল্যায়নে মডেল করে তার বাইরে যায়। একটি সামগ্রী সংশোধন ব্যর্থতা যা San Francisco তে একটি খবরের চক্র তৈরি করতে পারে Jakarta তে একটি সরকারী তদন্ত তৈরি করতে পারে।

বৃহত্তর সমস্যা হল AI সরবরাহ শৃঙ্খল বিশ্বাসের একটি। এশিয়ার বিকাশকারীরা প্রায়শই সীমান্ত মডেলগুলিতে অ্যাক্সেস করে মধ্যস্থতাকারীদের স্তরের মাধ্যমে: একটি ক্লাউড প্রদানকারী, একটি API সমন্বয়কারী, MonstarX এর মতো একটি প্ল্যাটফর্ম। প্রতিটি স্তর বিকাশকারী এবং অন্তর্নিহিত মডেল আচরণের মধ্যে বিমূর্ততা যোগ করে। সেই বিমূর্ততা সুবিধাজনক — যতক্ষণ না একটি মডেল এমনভাবে আচরণ করতে শুরু করে যা আপনার সেবার শর্তাবলী, আপনার ব্যবহারকারীদের প্রত্যাশা এবং সম্ভবত আপনার স্থানীয় আইন লঙ্ঘন করে।

বিকাশকারীদের জন্য এর অর্থ কী

যদি আপনি এখন Claude এ তৈরি করছেন, এখানে আপনার যা করা উচিত তা — তত্ত্বে নয়, বরং এই সপ্তাহে।

অডিট করুন আপনি কোন মডেল সংস্করণ কল করছেন। এটি স্পষ্ট মনে হয়, কিন্তু অনেক উৎপাদন অ্যাপ্লিকেশন চালু করার সময় Opus 4.6 বা Haiku 4.5 এ পিন করা হয়েছিল এবং পুনরায় দেখা হয়নি। আপনার API কল পরীক্ষা করুন। যদি আপনি একটি মডেল সনাক্তকারী ব্যবহার করছেন যা তিনটি প্রভাবিত সংস্করণের যেকোনো একটিতে ম্যাপ করে, আপনার একটি সিদ্ধান্ত নিতে হবে।

Opus 4.7 বা Opus 5 এ স্থানান্তর করুন যদি আপনার ব্যবহারের ক্ষেত্রে এটি অনুমতি দেয়। TechCrunch এর রিপোর্টিং নিশ্চিত করে যে আরও সাম্প্রতিক Opus মডেল (4.7 থেকে Opus 5) পরিচিত জেইলব্রেক কৌশলের প্রতি প্রতিরোধী। এটি নিখুঁত নিরাপত্তার গ্যারান্টি নয় — কোনো মডেল নয় — কিন্তু এটি এখানে নথিভুক্ত নির্দিষ্ট আক্রমণ ভেক্টর বন্ধ করে।

আপনার একমাত্র সামগ্রী ফিল্টার হিসাবে মডেল-স্তরের সুরক্ষার উপর নির্ভর করবেন না। এই ঘটনা একটি অনুস্মারক যে মডেল-স্তরের নিরাপত্তা একটি স্তর, একটি দেয়াল নয়। যদি আপনার অ্যাপ্লিকেশন ব্যবহারকারী-উৎপাদিত প্রম্পট পরিচালনা করে — বিশেষত ভূমিকা পালন, সঙ্গী, সৃজনশীল লেখা বা গ্রাহক সেবা প্রসঙ্গে — আপনার একটি স্বাধীন সামগ্রী সংশোধন স্তর প্রয়োজন যা অন্তর্নিহিত মডেল যাই করুক না কেন কাজ করে। এর মানে আউটপুট ফিল্টারিং, শুধু সিস্টেম প্রম্পট নির্দেশ নয়।

সামঞ্জস্য ফ্রেমিং ভেক্টরের জন্য আপনার সিস্টেম প্রম্পট পর্যালোচনা করুন। গবেষক এর কৌশল বিশেষভাবে প্রম্পট যা মডেলকে চরিত্রগুলিকে "সামঞ্জস্যপূর্ণভাবে" বিবেচনা করতে বলেছিল তা শোষণ করেছে। যদি আপনার অ্যাপ্লিকেশন কল্পনামূলক চরিত্রগুলির জুড়ে সামঞ্জস্য বা ন্যায্যতা নির্দেশ হিসাবে ব্যাখ্যা করা যেতে পারে এমন কোনো ফ্রেমিং ব্যবহার করে, অডিট করুন সেই ফ্রেমিং একটি অনুরূপ বৃদ্ধি প্যাটার্ন অনুসরণ করে একজন ব্যবহারকারী দ্বারা অস্ত্র করা যেতে পারে কিনা।

আপনার প্রশমন পদক্ষেপ নথিভুক্ত করুন। এশিয়া জুড়ে নিয়ন্ত্রিত বাজারে, যথাযথ পরিশ্রম প্রদর্শন গুরুত্বপূর্ণ। যদি একটি সামগ্রী ঘটনা ঘটে, একটি কাগজের পথ থাকা যা দেখায় আপনি ঝুঁকি চিহ্নিত করেছেন, আপনার এক্সপোজার মূল্যায়ন করেছেন এবং প্রতিকার পদক্ষেপ নিয়েছেন একটি পরিচালনাযোগ্য সম্মতি কথোপকথন এবং একটি গুরুতর নিয়ন্ত্রক ইভেন্টের মধ্যে পার্থক্য।

একটি ব্যবহারিক নোট সংযোগকারী এর উপর তৈরি দলগুলির জন্য যা একাধিক মডেল প্রদানকারীদের মধ্যে রুট করে: এটি ঠিক সেই পরিস্থিতি যেখানে একটি প্রদানকারী-অজ্ঞেয়বাদী বিমূর্ততা স্তর থাকা অর্থ প্রদান করে। যদি আপনার আর্কিটেকচার আপনাকে আপনার সম্পূর্ণ অ্যাপ্লিকেশন পুনরায় স্থাপন না করে মডেল সংস্করণ বা প্রদানকারী স্যুইপ করতে দেয়, আপনি ঘন্টার মধ্যে এই ধরনের ঘটনায় সাড়া দিতে পারেন দিনের পরিবর্তে। যদি এটি না করে, এখন সেই নমনীয়তা তৈরি করার একটি ভালো সময়।

এখানে গভীর প্রকৌশল পাঠ Claude সম্পর্কে নির্দিষ্ট নয়। এটি অনুমান সম্পর্কে যে একটি মডেল বিক্রেতার বিবৃত নীতি নির্ভরযোগ্যভাবে মডেল আচরণে ম্যাপ করে। এটি করে না — সর্বদা নয়, প্রতিকূল পরিস্থিতিতে নয়, এবং স্পষ্টতই Opus 4.6 এর ক্ষেত্রে এমনকি সরাসরি, অ-প্রতিকূল অনুরোধের অধীনেও নয়। নীতি এবং আচরণ দুটি ভিন্ন জিনিস, এবং আপনার অ্যাপ্লিকেশনের নিরাপত্তা অবস্থান তাদের মধ্যে ফাঁক বিবেচনা করার প্রয়োজন।

মূল টেকওয়ে

শিরোনাম ছাড়িয়ে যান এবং এখানে এই ঘটনা আমাদের আসলে বলে:

• মডেল নিরাপত্তা গ্যারান্টি সম্ভাব্য, পরম নয়। Anthropic এর ব্যবহার নীতি স্পষ্ট। Opus 4.6 এর আচরণও স্পষ্ট। তারা একে অপরের বিরোধিতা করে। আপনার সিস্টেম তৈরি করুন অনুমান করে যে ফাঁক আপনি স্থাপন করেন যেকোনো মডেলের জন্য বিদ্যমান।
• অবসর মানে চলে যাওয়া নয়। Opus 4.6, Opus 3, এবং Haiku 4.5