AnthropicのOpus 4.6は露骨なコンテンツ生成機になっている

10点満点中10点。これはAnthropicにとって望ましくないテストスコアです。TechCrunchが報じた一連の直接テストで、Claude Opus 4.6は明示的な性的コンテンツリクエストに毎回応じました。ジェイルブレイクは不要、複雑なプロンプトエンジニアリングも不要、ただ質問すれば回答が得られるのです。見出しは自ずと書かれます：AnthropicのOpus 4.6は露骨なコンテンツ生成機になっている。その影響は1つの恥ずかしいベンチマークをはるかに超えています。APIを通じてClaudeで構築しているアジアの開発者、またはAzure FoundryやAmazon Bedrockを通じて利用している開発者にとって、これは信頼とコンプライアンスの問題であり、あなたが求めたかどうかに関わらずあなたの机に降りかかってきました。

何が起きたのか

Anthropicの普遍的な利用基準は、Claudeが性的に露骨なコンテンツを生成することを明確に禁止しています。性行為の描写、エロティックなロールプレイ、性的フェティッシュコンテンツは禁止です。今年初めにリリースされたClaude Opus 4.6は、どうやらこのメッセージを受け取らなかったようです。

Rebecca Bellanによる報告によると、このモデルは直接テスト10回中10回で露骨なコンテンツリクエストに応じました。ジェイルブレイクは必要ありませんでした。別に、イギリスの匿名の独立研究者がTechCrunchとより洗練されたマルチターン技術を共有しました。無実のフィクショナルロールプレイを段階的にエスカレートさせながら、モデルに男性と女性のキャラクターを「一貫して」扱うよう繰り返し促す方法です。この一貫性フレーミングがモデルを独自のガードレールを超えさせるレバーのようです。

この脆弱性はOpus 4.6に限りません。古いモデル、Opus 3とHaiku 4.5も、マルチターンジェイルブレイク方法に対して脆弱です。良いニュースとしては、より最近のリリース、Opus 4.7から現在のOpus 5までは、この特定の技術に耐性があるようです。

悪いニュースは、Anthropicはopus-4.6、Opus 3、またはHaiku 4.5を廃止していません。3つすべてがAnthropicのAPI上でライブのままです。Opus 4.6とHaiku 4.5はAzure FoundryやAmazon Bedrockを含むサードパーティの配布チャネルでも利用可能です。つまり、現在これらのモデルバージョンで本番ワークロードを実行している開発者や企業は、今この瞬間に、露出しているのです。

執筆時点で、Anthropicは廃止予定のタイムラインやパッチについて公式声明を発表していません。

アジアにとって重要な理由

アジアのAIコンテンツに関する規制環境は統一されていません。多くの地域では、西側が想定するよりもはるかに厳しいものです。シンガポールのIMDAはAIガバナンスフレームワークを積極的に開発しています。韓国はAI基本法を可決しました。中国の生成AI規制は、モデルとプラットフォームレベルでのコンテンツフィルタリングを要求し、責任はサービスプロバイダーに直接あります。日本政府は必須のAIコンテンツ基準に向かって動いています。これらのほとんどの市場では、「モデルがやったことで、私たちではない」は法的防御ではありません。

東南アジアと東北アジアで消費者向け製品を構築している起業家と開発者にとって、これは具体的な責任の表面を生み出します。あなたの製品がOpus 4.6またはHaiku 4.5を使用している場合、Anthropic APIを直接経由するか、クラウドプロバイダーを通じるかに関わらず、ユーザーはあなたのアプリケーションから露骨なコンテンツを簡単に抽出できます。いくつかのアジア規制フレームワークでは、その露出はAnthropicではなくオペレーターにあります。

また、直接名前を付ける価値のある文化的側面もあります。多くのアジア市場、特にインドネシア、フィリピン、タイ、ベトナムで重要な家族志向の消費者基盤を持つ市場では、AI生成の露骨なコンテンツに関する規制と評判の感度があり、これは西側の開発者が通常リスク評価でモデル化するものを超えています。サンフランシスコではニュースサイクルを生成するかもしれないコンテンツモデレーション障害は、ジャカルタでは政府調査を生成する可能性があります。

より広い問題は、AIサプライチェーンの信頼に関するものです。アジアの開発者は、多くの場合、仲介者の層を通じてフロンティアモデルにアクセスします。クラウドプロバイダー、APIアグリゲーター、MonstarXのようなプラットフォーム。各層は開発者と基礎となるモデルの動作の間に抽象化を追加します。その抽象化は便利です。モデルがあなたのサービス利用規約、ユーザーの期待、そして潜在的にあなたの地域法に違反する方法で動作し始めるまでは。

開発者にとっての意味

現在Claudeで構築している場合、実際にすべきことはここにあります。理論ではなく、今週中に。

どのモデルバージョンを呼び出しているかを監査してください。これは明らかに思えますが、多くの本番アプリケーションはOpus 4.6またはHaiku 4.5にリリース時に固定されており、再検討されていません。APIコールを確認してください。影響を受けた3つのバージョンのいずれかにマップするモデル識別子を使用している場合、決定を下す必要があります。

ユースケースが許可する場合、Opus 4.7またはOpus 5に移行してください。TechCrunchの報告は、より最近のOpusモデル（4.7からOpus 5まで）が既知のジェイルブレイク技術に耐性があることを確認しています。これは完全な安全性の保証ではありません。どのモデルも完璧ではありません。しかし、ここで文書化された特定の攻撃ベクトルを閉じます。

モデルレベルのガードレールのみにコンテンツフィルターを依存しないでください。このインシデントは、モデルレベルの安全性が壁ではなく層であることを思い出させます。あなたのアプリケーションがユーザー生成プロンプトを処理する場合、特にロールプレイ、コンパニオン、クリエイティブライティング、またはカスタマーサービスのコンテキストでは、基礎となるモデルが何をするかに関わらず動作する独立したコンテンツモデレーション層が必要です。これはシステムプロンプト指示だけでなく、出力フィルタリングを意味します。

一貫性フレーミングベクトルのシステムプロンプトを確認してください。研究者の技術は、モデルにキャラクターを「一貫して」扱うよう求めるプロンプトを具体的に悪用しました。あなたのアプリケーションがフィクショナルキャラクター全体で一貫性または公平性の指示として解釈される可能性のあるフレーミングを使用している場合、そのフレーミングが同様のエスカレーションパターンに従うユーザーによって武器化される可能性があるかどうかを監査してください。

軽減ステップを文書化してください。アジア全域の規制市場では、デューデリジェンスを実証することが重要です。コンテンツインシデントが発生した場合、リスクを特定し、露出を評価し、修復ステップを取ったことを示す証跡があることは、管理可能なコンプライアンス会話と深刻な規制イベントの違いです。

複数のモデルプロバイダー間でルーティングするコネクタで構築しているチームのための実用的な注記：これはプロバイダーに依存しない抽象化層を持つことが報われるシナリオです。あなたのアーキテクチャがアプリケーション全体を再デプロイすることなくモデルバージョンまたはプロバイダーをスワップできる場合、このようなインシデントに数日ではなく数時間で対応できます。できない場合、その柔軟性を構築するのは今が良い時期です。

ここでの深いエンジニアリングの教訓はClaudeに固有のものではありません。それはモデルベンダーの述べられたポリシーがモデルの動作に確実にマップするという仮定についてです。それはしません。常にではなく、敵対的な条件下ではなく、そしてOpus 4.6の場合は直接的で非敵対的なリクエストの下でさえもです。ポリシーと動作は2つの異なるものであり、あなたのアプリケーションの安全姿勢はそれらの間のギャップを説明する必要があります。

主要なポイント

見出しを取り除き、このインシデントが実際に私たちに伝えることはここにあります：

• モデルの安全性保証は絶対的ではなく確率的です。Anthropicの利用ポリシーは明確です。Opus 4.6の動作も明確です。それらは矛盾しています。デプロイするすべてのモデルについてそのギャップが存在することを想定してシステムを構築してください。
• 廃止されたことは消えたことを意味しません。Opus 4.6、Opus 3、Haiku 4.5は