AI セキュリティはリアルタイムで進化している — Google でさえも例外ではない

Google Cloud の COO が、すべての開発者が既に知っていることを認めました。私たちは皆、AI セキュリティを手探りで進めているのです。ロサンゼルスのテック イベントで舞台裏で語った Francis de Souza は、現在の状況を「過渡期」と表現しました。これは、ハイパースケーラーでさえ即座に学習しているという外交的な言い方です。アジアで利用されているAI 開発ツールを使用して構築している開発者にとって、これは抽象的な理論ではありません。LLM を本番データに接続したり、内部システムをクエリできるエージェントをデプロイしたりするたびに、これが現実になります。

この認めは重要です。なぜなら、会話の枠組みを変えるからです。Google が AI ネイティブ アーキテクチャのセキュリティ上の影響について取り組んでいるのであれば、小規模なチームがすべてを解決する必要があるというプレッシャーは不合理です。代わりに必要なのは、初日からセキュリティを第一級の関心事として扱うプラットフォームと実践です。デモが投資家を感動させた後に付け加えるものではなく。

AI 開発ツールとは何か？

AI 開発ツールは、大規模言語モデルおよび他の AI システムを搭載したアプリケーションを構築、デプロイ、および保守できるプラットフォームとフレームワークです。コード コンパイルとデプロイ パイプラインに焦点を当てた従来の開発ツールとは異なり、AI ネイティブ ツールは確率的システムで作業する厄介な現実を処理します。プロンプト管理、モデル バージョニング、コンテキスト ウィンドウの最適化、および複数ステップのエージェント ワークフローのオーケストレーションです。

このカテゴリが急速に成長したのは、古い開発パラダイムが AI にきれいにマップされないからです。ソート関数をテストするのと同じ方法で GPT-4 レスポンスをユニット テストすることはできません。git だけではモデルの動作をバージョン管理することはできません。そして、2010 年の Web アプリに機能していた同じ周辺ベースの考え方を使用して、AI アプリケーションを保護することは確実にできません。De Souza は、攻撃面に「モデル、モデルのトレーニングに使用されるデータ パイプライン、エージェント、プロンプト」が含まれるようになったと指摘したときに、このシフトを強調しました。これらの要素は 2 年前のほとんどの企業の脅威モデルに存在していませんでした。

最高のAI ネイティブ開発プラットフォームツールはこれらの新しいプリミティブを認識しています。会話状態を管理するための抽象化、トークン使用量とレイテンシを監視するためのツール、およびモデルが機密データを漏らしたり、許可されていないアクションを実行したりするのを防ぐガードレールを提供します。特にアジアの開発者にとって、これらのツールは多言語コンテキストを処理し、地域のコンプライアンス フレームワーク内で機能し、東南アジアと東アジアで人気のある SaaS エコシステムと統合する必要があります。シリコン バレー スタックだけではなく。

Google が確認したセキュリティの現実

De Souza の核となるメッセージは率直でした。「セキュリティは後で付け加えることができるものではありません。」彼は特に「シャドウ AI」について警告しました。従業員が IT の知識なしに仕事の問題を解決するために ChatGPT または Claude アカウントを立ち上げています。これは仮説ではありません。TechCrunch のインタビューによると、初期侵害と次の攻撃段階の間の平均時間は 8 時間から 22 秒に短縮されました。その圧縮は、遅いセキュリティ レビューまたは手動承認ワークフローの余地を残しません。

AI セキュリティが難しい理由は、脅威が質的に異なるためです。従来のセキュリティはシステムへの不正アクセスを防ぐことに焦点を当てていました。AI セキュリティは、システムを通じた不正アクセスを防ぐ必要があります。データベースをクエリできるエージェント、トレーニング データを明かすようにジェイルブレイクできるモデル、ビジネス ロジックをバイパスするように操作できるプロンプト。De Souza は、過小評価されているリスクの 1 つにフラグを立てました。AI エージェントが内部システムを移動すると、「誰も存在することを知らなかった忘れられたデータ リポジトリ」が表示される可能性があります。これはパッチできる脆弱性ではありません。これはアーキテクチャの問題です。

AI プラットフォームプロジェクトに取り組んでいる開発者にとって、これはスタック全体を再考することを意味します。コードが何をしているかだけでなく、モデルが何をしているかを可視化する必要があります。すべてのプロンプトとレスポンスの監査ログが必要です。人間がデータベースをクエリすることと、エージェントがユーザーの代わりに同じことを行うことの違いを理解するアクセス制御が必要です。Google のマルチクラウド セキュリティ体制（De Souza が「企業が単一のクラウドを選択したとしても、SaaS アプリケーションに依存している」ため必要であると強調した）は、この複雑さを反映しています。セキュリティ境界は、データが流れるどこでもあります。AI アプリケーションでは、それはどこでもです。

アジアの開発者向けトップ ツール

アジアの開発者エコシステムには独特のニーズがあります。ユーザーがジャカルタ、マニラ、ホーチミン市に分散している場合、レイテンシが重要です。コンプライアンス要件は国によって異なります。シンガポールのデータ レジデンシー ルールはベトナムのルールと同じではありません。そして、西洋の AI ツールのコスト構造は、より低い価格ポイントで市場向けに構築している場合、禁止的になる可能性があります。

アジアで最も機能するツールは、いくつかの特性を共有しています。まず、地域の推論エンドポイントを提供するか、レイテンシを削減するためにローカル クラウド プロバイダーと提携しています。次に、無制限の VC 資金を想定していない透明な価格設定を提供します。第 3 に、アジアのチームが実際に使用するコラボレーション ツールと統合します。Slack は人気がありますが、WeChat Work と LINE も同様です。第 4 に、英語をデフォルトとして扱い、他のすべてを事後考慮として扱わずに多言語開発をサポートしています。

バイブ コーディング（自然言語で何をしたいかを説明し、AI に実装を生成させる実践）は、英語が誰もの第一言語ではないチームに特に適しています。インターフェースが会話的で構文が重くない場合、参入障壁は低下します。ただし、これはプラットフォームが現在のプロンプトを超えてコンテキストを理解する場合にのみ機能します。開発セッション全体で状態を維持し、アーキテクチャの決定を記憶し、新しいコードを生成するときに既存のコードベースを参照できるツールが必要です。

セキュリティに関する考慮事項もここに適用されます。AI ツールを使用してコードを生成している場合、独自のロジックでトレーニングしておらず、競合他社に吐き出していないことを知る必要があります。ローカル規制の対象となるユーザー情報を処理している場合、データ レジデンシーについての保証が必要です。そして、AI が提案したものと実際に出荷されたものを監査する能力が必要です。本番環境で何かが壊れた場合、「AI がそうするように言った」は根本原因分析ではないからです。

適切なツールを選択する方法

AI 開発ツールを選択することは、テキスト エディターを選択することとは異なります。ツールがアプリケーションのランタイム動作の一部になるため、ステークスはより高くなります。開発ワークフローだけではなく。De Souza のプラットフォーム思考に関するアドバイスはここに適用されます。「AI 戦略なしにデータ戦略とセキュリティ戦略はありません。彼らは手を携えて行く必要があります。」

データ フローをマッピングすることから始めます。機密情報はどこにありますか？どのシステムが相互に通信する必要がありますか？業界と地域に適用されるコンプライアンス要件は何ですか？米国の SaaS 企業に対して素晴らしく機能する AI ツールは、APAC 地域内にデータが留まることを保証できないため、シンガポール フィンテックでは使用できない可能性があります。ツールを分離して評価しないでください。スタック全体の一部として評価してください。

次に、ロック インをテストします。プロンプト、微調整されたモデル、および会話履歴をエクスポートできますか（プラットフォームを切り替える必要がある場合）？オープン スタンダードまたは独自の抽象化に基づいて構築していますか？AI ランドスケープは十分に速く移動しているため、今日選択するツールは 18 か月で廃止される可能性があります。アプリケーション全体を書き直す必要のない終了戦略が必要です。

最初から可視性を提供するプラットフォームを探してください。トークン使用量、遅延を確認できるはずです。