AI TRiSM

AI TRiSM

AIシステムの信頼性、リスク管理、安全性を確保してAIの信頼性を高めるための総合的なアプローチをAI TRiSMという。Artificial Intelligence Trust, Risk, and Security Managementの略で、TRiSMはTrust（信頼性）、Risk（リスク）、Security Management（セキュリティ管理）の頭文字を使った造語。AI TRiSMは「エーアイトリズム」と読む。アメリカの調査会社Gartnerが2023年に提唱したフレームワーク。

AI TRiSMは説明可能性、ModelOps（モデル運用管理）、AIセキュリティ、プライバシーの4つの要素で構成されている。AIの開発から運用までのすべての段階でリスクを特定し、安全に使用できるようにするための指針を定めている。

AI TRiSMの説明可能性とは、AIモデルがどのように意思決定を下しているかを理解し、説明できること。説明可能なモデルは透明性を確保し、信頼性の向上につながる。ModelOps（モデル運用管理）はAIモデルの開発、運用を管理するためのプロセスで、モデルのライフサイクル全体の管理、監視、更新が含まれる。内部からのデータ流出や外部の敵対的な攻撃からデータを守る対策がAIセキュリティである。プライバシーでは、個人情報の保護やデータの適切な取り扱いをまとめたガイドラインを策定する。

AI TRiSM がAIの信頼性、安全性、透明性を確保するための標準となり、多くの業界でAIの導入が進むことが期待されている。