AIの不具合がもたらす損失とリスクに関するレポートは、日本企業の74％が過去1年間にAIの不具合を経験している現状を明らかにしました。
AIの不具合が及ぼす影響と調査結果
BSIが公開したグローバル調査「The cost of AI failure(AIの不具合がもたらす損失とリスク)」は、企業が導入・開発中のAIが意図した目的から逸脱した際の影響を検証したものです。不具合の経験は広範囲に及んでおり、日本企業の74％が過去1年間にAIの不具合を経験しています。※不具合の発生は開発・テスト段階ではなく、実際の運用環境に焦点を当てています。また、調査対象には最先端モデルの不具合は含まれていません。
調査で判明した主な状況は以下の通りです。
・AIの不具合を経験した日本企業の91％が複数回の不具合を報告
・日本企業の31％が不具合によりセキュリティ侵害を経験
・日本企業の38％が安全上の不具合を報告
・日本企業の14％がAIの不具合による財務上の損失を報告
・AIインシデント管理プロセスを整備している日本企業は41％にとどまる
経済モデル分析によると、AIシステムが複雑化するにつれて財務リスクも拡大します。特にエージェント型AIの不具合はリスクが高く、一部の業界では市場収益の最大3.6％がリスクにさらされる可能性があると推計されました。※この数値には、規制当局によって科される可能性のある罰金は含まれていません。
企業におけるAIガバナンスの現状と課題
AIの導入が実証段階から本番運用へ移行する中、ガバナンス体制の強化が急務となっています。日本企業の40％がAIガバナンスプログラムを整備済みと回答するなど改善は見られるものの、依然として認識と実践の間に隔たりが存在します。
規格に準拠した安全なAI利用方針を適切に実施できていると回答した日本企業は35％に留まり、データやアルゴリズムの透明性を確保している企業も34％にとどまりました。BSIは、AIの不具合を防ぐための対策とともに、発生時に教訓を共有できる環境づくりを促しています。今後はサイバーセキュリティと同様に、AIガバナンスを戦略的な経営能力として捉えることが不可欠です。
まとめ
日本企業の多くがAIの不具合を経験する中で、リスクへの備えが重要な課題となっています。技術導入だけでなく、リスク評価やガバナンス体制を組織全体で強化することが、信頼できるAI活用と責任あるイノベーションの実現につながります。
関連リンク
https://www.bsigroup.com/en-GB/insights-and-media/insights/whitepapers/the-cost-of-ai-failure/
