AI TRiSMとは

AI TRiSMとは、”AI Trust, Risk and Security Management”の略称で、AIのリスクに対応し、AIの信頼性を高めるための取り組みです。AIにおける、信頼性・公平性・有効性・プライバシー・データ保護などをサポートする手法やツール、プロセスといった枠組みを総称する新しい造語です。

AI TRiSMは2022年、アメリカの調査会社ガートナーが2023年の戦略的テクノロジートレンドとして取り上げたことで一躍知られるようになりました。
ガートナーは、この年の主なトレンドテーマとして「最適化（Optimize）」「拡張（Scale）」「開拓（Pioneer）」の3つを挙げ、AI TRiSMを「最適化」のカテゴリに分類しています。

「最適化」は、企業がテクノロジーの活用を通して、事業のオペレーションやレジリエンスなどを向上させ、信頼を「最適化する」ことを意味します。そして、その具体的な取り組みの一つとして挙げられたのがAI TRiSMです。

昨今、コロナ禍や相次ぐ自然災害などの影響を受けて、経営のレジリエンスが強く求められるようになっており、多くの企業や組織がデジタル技術の導入を急速に進めています。
そしてAIは、いうまでもなく、最新のデジタル技術でありDXを推進する上で欠かせない要素です。さらに、最も新しいトレンドである生成AIはまたたく間に社会に広がりをみせています。

しかし、そうしてAIの活用が広がる一方で、AIの持つリスクも次第に明らかになっています。たとえば、ガートナーは、欧米でAIを使用している組織の約41%がプライバシー侵害やセキュリティインシデントを経験しているという調査結果をレポートしています。このように、過去からある、データセキュリティやサイバーアタックなどの一般的なセキュリティ対策に比べると、AI特有のリスク対策についてはまだこれから、というのが現状です。

このような背景から、AIを安全かつ効果的に活用するためには、AI特有のリスクに対する理解と対策を進める取り組みが不可欠であるとの認識が世界中で広まっています。そして、AIの信頼性を高めるための新しい概念としてAI TRiSMが注目されるようになりました。

AI TRiSMは、大きく分けて次の4つの柱で成り立っています。

・説明可能性

AIには、その行動の解釈や判断などについて説明できることが求められます。説明可能なAIモデルの構築が、AIの信頼性を高めるといわれています。

・ModelOps

ModelOpsは、AIモデルの構築で、開発・運用・更新の所定サイクルを効率的に実行できるようにするための手法です。AIの有効性・信頼性を維持し高めるためには、適切なマネジメントやガバナンスが必要となります。

・AIセキュリティ

サイバーアタックなど、外部からの攻撃に対して脆弱性を持っていると、AIの信頼性を確保することができません。外部からの攻撃に対する耐性を構築し、不自然なデータなどの異常を常に検知し、ただちに対処できるようにする必要があります。

・プライバシー

プライバシー保護は、データを扱う際にもっとも重要視すべき観点です。外部からの攻撃に対するセキュリティに加えて、内部からのデータ持ち出し・漏洩・データ破損などに対する対応も重要です。

今回は、AI TRiSMの概略、注目されている理由、AI TRiSMの4つの柱について解説しました。次回は、AI TRiSMの導入メリットと課題、そして事例について紹介します。