急速にAIが普及していく一方で、利用によるリスクについてはあまり目を向けられることがなかった。しかし、当然このような状況は危惧されている。

2022年末にガートナージャパン（以下、ガートナー）が発表した「戦略的テクノロジのトップ・トレンド」では、AI TRiSMという概念についての項目が設けられている。AI TRiSMとはガートナーによる造語であり、AIの信頼性やリスク、セキュリティ管理などの概念を指す言葉だ。

同社が実施した調査によると、アメリカ、イギリス、ドイツの約4割の組織がAI活用によるプライバシー侵害やセキュリティ・インシデントを経験したことがあるという。AIはビジネスをサポートする便利な技術だが、同時にトラブルを引き起こす原因にもなり得るということだ。

一方で、AIのリスクなどを積極的に管理する組織ほどAIの成果を向上させていることも報告されている。そのため、今後はAIによるトラブルを防ぎつつ、その利点を最大化することが重要であると言えるだろう。同発表では、今後はAI活動全般を最適化する施策が求められる、とまとめられている。

AI TRiSMが重要だと位置づけられている理由は何にあるのだろうか。AI TRiSMは、以下の4つの柱によって成り立つと定義されている。

説明可能性

AIが下した判断を簡単に精査することは難しい。なぜならAIは人間の理解が及ばないほどの判断を下すことがあるからだ。AIの判断内容に従ったところ、全く現実とそぐわない内容だった、というケースもあるだろう。このような事態に対処するため、AIは下した判断について人間が納得できる根拠を示すことが求められる。この根拠を示す能力のことを説明可能性と呼ぶ。

説明可能性のないAIの判断は信用できないため、特にビジネスの現場において重用することは望ましくない。想定外のリスクを避けるためにも、説明可能性を有するAIを利用し、検証を欠かさないことが重要だ。

ModelOps

AIの開発や運用、更新までのサイクルを効率的に実行するための手法をModelOpsと呼ぶ。ModelOpsは、AIを活用したビジネス課題の明確化やそれを実現するための準備、AIモデルの作成とその運用、効果測定とそれを反映させたAIの改善、それを踏まえたうえでのビジネス課題の明確化……、といったサイクルで実行される。

ModelOpsが重要である理由は、AIは実装後劣化すると考えられていることにある。AIの活用シーンは徐々に変化しており、実装当時の想定とは異なる活用をする可能性も十分にある。あるいは、AIを支える技術そのものが進歩した場合、時代遅れの技術を使ったAIは選ぶべきではないだろう。このような事態に対処するには定期的なAIの更新が重要であり、そのためには適切なフローを経る必要がある。ビジネスにおけるAIは「導入しっぱなし」ではなく、改善することを前提として運用する環境を整えることが大切だ。

AIセキュリティ

あらゆるITソリューションのセキュリティと同じく、AIのセキュリティも強固であることが求められる。これは、AIを意図的に誤作動させたり、学習データを不正に読み取ったりすることを目的としたサイバー攻撃の発生が確認されているためだ。

日本ソフトウェア科学会の専門委員会はこのような攻撃などを懸念し、「機械学習システム セキュリティガイドライン」を公開している。この資料では実際のサイバー攻撃による被害や傾向、対策などが紹介されており、ビジネスでのAI活用に際し注意すべきポイントとして参考にしたい。

プライバシー

AIは大量のデータを学習させて活用する。ビジネスで利用するAIであれば、顧客や従業員の個人情報が含まれることもあるだろう。そのため、サイバー攻撃の被害に遭った場合や、何らかのミスで内部から情報を流出させてしまった場合には、取り返しのつかないダメージを負うことになる。AIを活用する場合、企業はこれまで以上にセキュリティに注意を払わなくてはいけない。

AI TRiSMは企業が心がけるべき指針であるとともに、ビジネスの開拓できる新たな可能性でもある。例えば、ヨーロッパのスタートアップ企業であるabzu社はAI TRiSMにおいて重要な説明可能性に着目し、AIが下した判断について数学的に説明可能なモデルを公開している。

企業がAI TRiSMを取り入れることに先駆け、アプローチができる方法を模索していきたい。