企業不祥事や情報漏えい・事業停止が相次ぎ、内部統制の実効性が問われるなか、AIの業務利用は新たな管理上の課題を生んでいる。


会社の管理外で利用される「シャドーAI」、ハルシネーションによる誤情報、著作権やバイアスの問題など、対象は多岐にわたる。


また、生成AIをはじめとするAI技術が企業活動に急速に浸透するなか、企業には業務効率化や生産性向上だけでなく、AIの利用に伴うリスクを適切に管理する体制づくりも求められている。


情報漏洩や誤った情報に基づく意思決定、AIを悪用したサイバー攻撃など、AIをめぐるリスクは企業経営や事業継続にも影響を及ぼしかねない。


こうした状況を踏まえ、パスメイクホールディングス(https://www.pathmake.co.jp/)は「AI時代に問われる日本企業の内部統制とガバナンス」をテーマとする説明会を開催。


同説明会には、アビタス 毛利弘通 アビタス教育総合研究所(AIDEA)所長、アビタス 柳尾彰大 キャリア事業部/ガバナンス事業部/法人営業部 部長らが登壇。


AIガバナンスをめぐる企業の現状や今後の課題、必要な対策について解説するとともに、2027年を見据えた日本企業への提言を示した。


今回の説明会で浮かび上がったのは、AIのリスク管理は情報システム部門だけの問題ではなく、経営陣が主体となって取り組むべき企業統治の課題であるという点。


AI利用に潜む「内因的リスク」と「外因的リスク」


説明会ではまず、企業がAIを利用する際に直面するリスクを、大きく2種類に分類して解説。


ひとつは、社内のリスク管理が十分にできていない状態でAIを利用することによって発生する「内因的リスク」。


例えば、業務上の機密情報や個人情報を不用意にAIへ入力することによる情報漏洩、誤情報やバイアスを含むAIの出力に基づく誤った意思決定、誤操作や誤処理によるデータの不適切な利用、知的財産権の侵害などが挙げられる。


もうひとつは、AIを利用したサイバー攻撃やマルウェア感染などによって発生する「外因的リスク」。


AIの活用によってサイバー攻撃は容易かつ巧妙になり、攻撃頻度や速度も増加。サプライチェーンやクラウドサービス事業者などを含む広範囲に影響が及び、被害が拡大する可能性もある。


こうしたリスクは、企業の情報資産における機密性・完全性・可用性に加え、プライバシーにも関わる問題となる。


AIを使うこと自体に伴うリスクと、AIを悪用されることで生じるリスク。その両面を捉え、管理することがAIガバナンスの出発点となる。


企業内で進むAI利用
見過ごされる「シャドーAI」



では、日本企業のAIガバナンスは現在どのような状況にあるのか。


説明会資料では、企業によって対応に差がある実態が示された。


上場企業のなかにはAIガバナンスの責任者を設置するところがある一方、安全性が確認できるまでAI利用を認めない保守的な企業も存在する。


さらに問題となるのが、各業務部門がそれぞれのニーズに応じてAIの利用を先行させ、十分なリスク対応が行われないまま活用が広がってしまう状態がある。


こうした、組織として把握・管理できていないAI利用は「シャドーAI」と呼ばれる。


管理部門も手探りの状態にあり、ガイドラインを活用できていないケースや、経営者の関与が消極的で専門部門に対応を委ねているケースも課題として挙げられた。


また、AIが生成した情報について、その判断に至ったロジックを説明できないことや、AIリスクへの対策に十分な費用を投じられていないことも問題となる。


一方、外因的リスクについては、当局による監視・監督の動向にも注目が必要。


説明会資料では、金融機関などに対する継続的な監視・監督が進められている状況に触れ、製造、物流、小売、クラウドサービスなど、社会や事業への影響が大きい業種でも、リスクの特定やビジネスインパクト分析が重要になると指摘した。


AIを利用していることを把握できていない、あるいはリスクを認識できていない状態そのものが、企業にとって大きな経営リスクとなる。


経営陣の関与とリスク管理態勢のPDCA化が不可欠


では、企業は何から取り組むべきなのか。


説明会では、AIガバナンスにおける今後の課題として、経営陣の積極的な関与、AI利用に関するフレームワークやガイドラインの導入、網羅的なリスクの特定、リスクの大きさに応じた対応、そして損失や被害が拡大する前のインシデント対応などを挙げた。


特に重要なのが、リスク管理態勢をPDCAサイクルによって継続的に改善すること。


具体的には、次のような取り組みが求められる。


 ・経営陣が積極的に関与し、AIステコミ(AIに関するステアリングコミッティー)を設置する


 ・AIの利用部門とセキュリティ管理部門が協働する


 ・AIリスクに関する情報セキュリティプログラムを策定する


 ・サービスプロバイダーや取引先を監視する


 ・AIリスク管理態勢を定期的に監査する


 ・専門家や当局との意見交換、定期的な評価を実施する


 ・AIステコミにリスク管理状況を報告する


外部からの攻撃に対しても、AIを利用したインシデントの検知・対応、継続的なセキュリティ向上研修、AIによる攻撃を想定したインシデント対応計画の整備が必要になる。


さらに、外部委託先やサプライチェーンを含めたリスクの特定も欠かせない。


場合によっては、被害が大きくなる前に事業をあえて停止する判断も求められるという。


AIの利用を推進することと、リスクを管理すること。その両方を経営の仕組みとして機能させる必要がある。


2027年 日本企業に迫る「AIガバナンスという黒船」



こうした企業の現状と課題を踏まえ、説明会資料の後半では、アビタス教育総合研究所(AIDEA)所長の毛利弘通氏による「2027年提言」も示された。


そのタイトルは「AIガバナンスという黒船」。


毛利氏は、2027年は日本企業がAIガバナンスと正面から向き合わざるを得ない年になるとの見通しを示している。


提言では、EUのAI法に注目。採用や与信、教育などの分野で利用される一定のAIを「高リスク」と位置づけ、2027年12月2日からリスク管理や記録の保存、人間による監督などを義務づけるとしている。


国内でも、AI法に基づくAI基本計画が2026年7月に改定され、AI事業者ガイドラインについても、AIエージェントへの対応をさらに具体化する改定が検討されていると指摘。


法的な拘束力の有無にかかわらず、取引先や投資家、顧客から「御社はAIをどう管理しているのか」と問われる場面は増えていくと見ている。


つまり、AIガバナンスは一部の先進企業や専門部門だけが考えればよいテーマではない。


企業の信頼性や取引関係、投資判断にも関わる経営課題になっていく。


AIガバナンスの整備は、企業本来のガバナンスを見直す機会


毛利氏の提言で特に注目したいのは、AIガバナンスを単なる新たな規制対応やコストとして捉えていないところ。


役割と責任を明確にすること、記録を残すこと、リスクの大きさに応じて手続きを変えること、独立した立場から検証すること。


これらは決して新しい考え方ではない。


内部統制や情報セキュリティ、個人情報保護の分野で、日本企業が長年取り組んできた基本的なガバナンスの考え方である。


しかし、規程があっても読まれない、承認手続きがあっても実質的な審査が行われない、記録が残っていても誰も見返さないといった、形式だけの運用に陥っている企業もある。


AIの場合、こうした形骸化した管理体制では対応が難しくなる。


例えば、AIが生成した情報に基づく判断が幅広い業務に入り込んだ後で問題が発覚すれば、その影響範囲を特定するだけでも大きな負担になる。


ハルシネーション(事実と異なるが、もっともらしい出力)、情報漏洩、バイアスなどのリスクも、継続的に監視しなければ発見が難しい。


一方、AIの利用状況を台帳で管理しようとすれば、そもそも社内のどこにどのようなデータがあり、誰が管理しているのかが曖昧だったことに気づく可能性がある。


AIの利用過程や出力を人間がどのように判断に用いたかを記録することは、人間自身の意思決定プロセスを見直すことにもつながる。


さらに、部門横断の管理体制を構築すれば、従来の縦割り組織を見直す契機にもなる。社員教育も、AIの適切な利用にとどまらず、企業全体のリスク感度を高めることにつながる。


AIという新しい対象が、これまで見過ごされてきた企業のガバナンスの綻びをあぶり出す。


毛利氏は、日本がこれまでも外部からの圧力を内側の変革につなげてきた歴史に触れ、AIガバナンスもまた、企業のガバナンス全体の品質を引き上げる契機になり得ると提言している。


AIを管理できる人材がこれからの企業を支える


今回の説明会を通じて浮かび上がったのは、AIガバナンスを実効性のあるものにするには、制度やルールを整えるだけでは不十分という点。


AIの利用を推進する部門とセキュリティ管理部門をつなぎ、経営陣にリスク管理状況を報告し、継続的な監視・改善を主導できる人材が必要となる。


説明会資料でも、AIステコミなどを主導し、利用部門と協働しながらAIリスクを管理・監視できる人材の補充が必要だと結論づけている。


AIを導入する企業が増えるほど、その活用を適切に管理する能力も企業競争力の一部となっていく。


AIガバナンスを規制対応のコストとして受け流すのか、それとも自社の内部統制や経営のあり方を鍛え直す機会として生かすのか―――。


2027年に向け、日本企業にはその姿勢が問われている。


◆アビタス CIA(公認内部監査人)講座

https://www.abitus.co.jp/lp/cia/ad3/


◆アビタス CISA(公認情報システム監査人)講座

https://www.abitus.co.jp/lp/cisa/ad3/


◆アビタス CISM(公認情報セキュリティマネージャー)講座

https://www.abitus.co.jp/lp/cism/


◆アビタス CFE(公認不正検査士)講座

https://www.abitus.co.jp/cfe/


◆アビタス AAIA(AI監査資格)講座

https://www.abitus.co.jp/aaia/


◆アビタス CRISC(公認情報システムリスク管理者)講座

https://www.abitus.co.jp/cfe/



情報提供元: GZNews
記事名:「 pathmake パスメイクHD AIリスクと経営層が取り組むべき課題と対策 Abitus アビタス の6つの専門資格講座で日本企業に求められる AI ガバナンスと内部統制を再構築 」