XAI
AIの判断や予測の理由を人間が理解できるようにする技術のこと。XAI（Explainable AI）は「説明可能なAI」などと訳される。ほとんどのAIは、なぜその結果になったのかがわかりにくく、考え方や決定のプロセスがブラックボックス化して不透明である。XAIは、AIがどのように意思決定を行ったかを、人間が理解できる形で示すことができる。
例えば、画像認識AIが画像を見て「これは飛行機です」と出力を返す。出力結果に加えて、「なぜこの画像を飛行機と判断したか」の根拠となる内容が説明される。判断のプロセスが可視化されることで、ユーザーはAIの判断に納得しやすくなる。また、AIの間違いを見つけやすくもなる。
通常のAIと比較してXAIは、説明のための追加処理がかかるので、計算コストや処理時間が増加する傾向にある。また、AIの判断プロセスの説明を人間が理解できるレベルに調整することも必要になる。判断プロセスの説明が専門的すぎると、一般の人は理解しにくい。簡単すぎると、情報が不足する恐れがある。分かりやすさと正確さのバランスをとることが、XAIが普及するポイントになる。より分かりやすく直感的な説明を提供できるよう、XAIの発展に期待が高まる。
