Gartner セキュリティ & リスク管理サミット 2023 ナショナル ハーバー: 3 日目のハイライト

「すでに運用されており、侵害され攻撃される可能性のある AI モデルが多数存在します。2021 年の Gartner 調査によると、組織の 73% がすでに数百または数千の AI モデルを導入していることがわかりました。」

「侵害と攻撃は、データポイズニング、プライバシーへの懸念、モデル結果の操作、モデルやデータの悪用、侵害、盗難など、AI ライフサイクルのあらゆる段階に及びます。」

「AI セキュリティの脅威については、2 つのよくある誤解があります。1 つは、ほとんどの AI 攻撃は部外者によってのみ発生するため、内部を調べる必要はありません。もう 1 つは、ほとんどの AI 攻撃は複雑なので、細かいことは気にしないようにしましょう。」

「CISO と AI チームは、AI から生じるリスクの認識が異なります。AI チームは、AI リスクが顕在化する可能性が高いと考えており、AI リスク全体をより懸念しています。セキュリティ チームよりも情報リスクを懸念している人がいることは、毎日ではありません。」

「AI TRISM は、AI ソリューションのガバナンス、信頼性、公平性、信頼性、プライバシー、セキュリティ、コンプライアンスを確保し、管理されていないリスクを管理されたリスクに変えるのに役立ちます。」

「2026 年までに、AI の透明性、信頼性、セキュリティを運用する組織は、AI モデルの導入、ビジネス目標、ユーザーの受け入れに関して 50% の結果改善を達成するでしょう。」

AI TRISM について詳しくは、Gartner Q&A「生成 AI の将来に信頼とセキュリティが不可欠な理由」をご覧ください。