公開日
AIに使われるあなたの「あのデータ」、大丈夫？ Googleが警鐘鳴らす「AIサプライチェーン攻撃」の脅威と対策
AIの進化は止まることを知らず、私たちの生活にも、ビジネスにも、なくてはならない存在になりつつあります。しかし、その裏では、新たなセキュリティリスクが忍び寄っていることをご存知ですか？
下の図を見てください。私たちの身近にあるAIサービスの裏側では、複雑なサプライチェーンが形成されています。そして、このサプライチェーンのあらゆる段階で、悪意のある攻撃者による「AIサプライチェーン攻撃」のリスクが存在するのです。
Googleが発表した最新のホワイトペーパー「Securing the AI Software Supply Chain」では、この 「AIサプライチェーン攻撃」 という新たな脅威に警鐘を鳴らしています。
もし、あなたのビジネスでAIを活用している、あるいはこれから活用しようとしているなら、この「AIサプライチェーン攻撃」について知っておくことは非常に重要です。
なぜ今、AIサプライチェーンのセキュリティが重要なのか？
AIモデルのトレーニングには、大量のデータが必要です。そして、従来のソフトウェアと同様に、このデータやAIモデル自体が、悪意のある攻撃者に乗っ取られるリスクがあるのです。
例えばこんなシナリオが考えられます。
- あなたの企業が開発したAI搭載の顧客サービス。そのトレーニングデータに、悪意のあるコードが仕込まれていたとしたら…？
- あなたのチームが、信頼できるオープンソースのAIモデルだと思って利用していたら、実は改ざんされたものだったとしたら…？
結果として、
- 顧客情報が漏洩してしまう
- AIが誤作動を起こし、ビジネスに損害をもたらす
- 企業の信用を失墜させてしまう
このような事態は、決して絵空事ではありません。
Googleのホワイトペーパーでは、実際に発生したAIサプライチェーン攻撃の事例や、その手口が詳しく解説されています。
AIサプライチェーンは従来のソフトウェアサプライチェーンとどう違う？どうすれば守れる？
AI開発ライフサイクルは、従来のソフトウェア開発ライフサイクルと多くの類似点があります。そのため、従来のソフトウェアサプライチェーンで培われたセキュリティ対策の知見を活かすことができます。
Googleは、ホワイトペーパーの中で、従来のソフトウェアサプライチェーンのセキュリティ対策は、AIエコシステムにも適用可能であり、適用すべきであると主張しています。例えば、コードを保護するために設計された保護をデータにも適用できます。
Google自身も、過去10年間に行ってきた既存のサプライチェーンセキュリティ対策を拡張することで、AIサプライチェーンのセキュリティを確保するアプローチを採用しています。具体的には、
- BAB（Binary Authorization for Borg）: 本番環境で実行されるソフトウェアが承認されたものだけであることを保証する技術。
- SLSA （Supply-chain Levels for Software Artifacts）: ソフトウェアアーティファクトのサプライチェーンのセキュリティレベルを定義したフレームワーク。
- Sigstore : コード署名と検証を簡素化する無料の公開サービス。
といった技術をAI開発にも適用しています。
特にSLSAは、明確な基準と達成可能な手順を定義することで、複雑な変更を管理しやすくするという点で、組織にとって有益です。
来歴（Provenance）の重要性
Googleは、AIアーティファクトの来歴を追跡することの重要性を強調しています。これは、AIモデルの開発に使用された全てのコンポーネントの記録を残すことで、透明性と信頼性を高める取り組みです。
- コードの来歴: どのコードが、いつ、誰によって変更されたのかを記録します。
- データの来歴: どのデータが、いつ、どのように使用されたのかを記録します。
特にデータ来歴は、AIサプライチェーンのセキュリティ確保において重要です。データ来歴は、モデルのトレーニングに使用されたすべてのデータのソースを記録することを含みます。 データがトレーニングの前に変換された場合（データクリーニングなど）、Googleは、元のデータにリンクされた、独自の来歴ドキュメントを持つ別のデータセットを作成することを推奨しています。
このように、来歴情報を詳細に記録することで、AIモデルの信頼性を高め、問題発生時の原因究明を容易にすることができます。
今すぐできる対策とは？
AIサプライチェーン攻撃は、決して他人事ではありません。
あなたの組織では、AI開発におけるセキュリティ対策は万全ですか？
もし、少しでも不安を感じたら、
- Googleのホワイトペーパーを読んで、AIサプライチェーン攻撃について詳しく学ぶ
- 自社のAI開発プロセスを見直し、セキュリティ対策が不足している箇所を洗い出す
- BAB、SLSA、Sigstoreなどの技術の導入を検討する
- 来歴情報の記録を徹底する
といった対策を講じることをおすすめします。
集団行動がAIサプライチェーンを守る
AIソフトウェアサプライチェーンを確保するには、集団行動が重要です。 著者は、組織がどれほど自立していても、依存関係、データセット、その他の共有コンポーネントが常に関係してくると主張しています。これらのコンポーネントについて取得および共有する情報を増やすことで、共有AIエコシステムの基本的な構成要素を保護し、全員のAIソフトウェアサプライチェーンの保護に役立ちます。
AIの進化は、私たちに大きな可能性をもたらすと同時に、新たなリスクももたらします。AIの力を最大限に活用するためにも、セキュリティ対策は決して疎かにしてはいけません。
自社のセキュリティポリシーの策定や、セキュリティ対策にご不安ですか？ 弊社のサービス は、組織が抱える課題を解決し、セキュリティ対策に関する様々なソリューションを提供しています。ぜひお気軽にご相談ください！
参考資料: