公開日
【IPA/AISI推進】AIセーフティガイドで日本のAI普及を推進～信頼できるAI社会の実現に向けて～
AIは様々な分野で活用が進み、私たちの生活やビジネスを大きく変えようとしています。日本社会の更なる発展にも大きく貢献することが期待されています。しかし、その一方で、AIの普及には、安全性、信頼性、倫理面など、解決すべき課題も存在します。AIの誤動作による事故や、AIの偏見による差別、プライバシー侵害といったリスクも想定されるため、AIシステムの開発・提供・利用にあたっては、適切な配慮が不可欠です。
AIセーフティガイド：信頼できるAI社会実現の道標
このような課題に対し、情報処理推進機構（IPA）によって設立されたAIセーフティ・インスティテュート（AISI）は、「AIセーフティに関する評価観点ガイド」を公開しました。このガイドは、AIシステムの開発・提供事業者に向けて、AIセーフティ評価を行う際の指針となる基本的な考え方や具体的な方法を示しています。信頼できるAI社会の実現を目指す上で、重要な羅針盤となるでしょう。
ガイドの活用メリット：様々な立場の方々に役立つ情報
このガイドは、AIシステムの開発者や提供者だけでなく、AIを利用する方々や政策を立案する方々など、様々な立場の方々に役立つ情報を提供します。
開発者/提供者の方々へ
- 開発コストの削減
- 想定されるリスクの軽減
- 企業イメージの向上
- 法的な責任範囲の明確化
- 国際的なAI規制への対応
利用者の方々へ
- 安心・安全なAIサービスの利用
- AI技術への理解促進
政策立案者の方々へ
- 政策立案の指針
- 国際的なAI規制の動向を踏まえた法整備
ガイドの中身：10の評価観点でAIセーフティを多角的にチェック
ガイドでは、「人間中心」、「安全性」、「公平性」、「プライバシー保護」、「セキュリティ確保」、「透明性」という6つの重要要素を基に、10個の評価観点が詳しく解説されています。これらの観点は、大規模言語モデル（LLM）を含む、あらゆるAIシステムに適用できます。
AIセーフティ評価の観点
各評価観点については、概要説明に加え、想定されるリスクの例や、具体的な評価項目の例なども示されており、AIセーフティ評価を実施する際の参考になります。
評価の実施体制と時期：継続的な評価と改善のサイクル
AIセーフティ評価は、主にAIシステムの開発・提供事業者における開発・提供管理者が中心となって実施します。ただし、より客観的な評価を行うためには、社内外の専門家や第三者機関の協力を得ることも推奨されています。評価は、AIシステムの開発・提供・利用の各段階において、適切なタイミングで繰り返し実施し、継続的に改善していくことが重要です。
LLM システムの活用の流れにおける評価実施時期
評価手法：ツール、レッドチーミング等による検証
AIセーフティ評価は、様々な手法を組み合わせて多角的に実施することで効果を高めることができます。主な手法として、以下の3つが挙げられます。
- ツールによる評価: AIセーフティ評価を支援するツールを活用し、効率的に評価を進めます。有害な表現の検出やバイアスの測定などを自動化できますが、ツールのみでは全ての観点をカバーできないため、他の手法と併用することが重要です。
- レッドチーミング: 専門家チームが擬似的な攻撃を試みることで、システムの脆弱性やリスクを発見します。想定される攻撃シナリオに基づき検証することで、システムの安全性と堅牢性を確認できます。
- マネジメント的評価: 組織全体のガバナンス体制やAIセーフティに関する教育・研修体制を評価します。適切な方針や体制が整備されているかを確認することで、AIシステムの安全性・信頼性向上に繋げます。
これらの手法をAIシステムのライフサイクルの各段階に合わせて適切に組み合わせ、AIセーフティ評価を実施します。
未来への展望：進化し続けるAI技術への対応
AI技術は日進月歩で進化しており、今後、画像や音声、動画など、複数の種類のデータを同時に扱うマルチモーダルAIの普及が見込まれています。AISIは、このような技術の進展に合わせて、ガイドの内容を継続的に更新し、常に最新のAIセーフティ評価基準を提供していく予定です。
まとめ：信頼できるAI社会を共に築きましょう
AISIが策定したAIセーフティガイドを活用することで、AIシステムの安全性・信頼性を高め、誰もが安心してAIを利用できる社会の実現を目指しましょう。
AI開発や社内のセキュリティにお困りですか？ 弊社のサービス は、開発チームが抱える課題を解決し、生産性と幸福度を向上させるための様々なソリューションを提供しています。ぜひお気軽にご相談ください！
参考資料: