前の記事(第3の壁) ＜ AI活用定着を阻む第4の壁：セキュリティ・ガバナンスが追いつかない ＞ 次の記事(第5の壁)
「利用禁止」は逆効果？AI定着のカギを握る「AIガバナンス」と善意のシャドーAI対策とは？
AI活用定着を阻む第4の壁：セキュリティ・ガバナンスが追いつかない
企業がAIを導入してから「定着」に至るまでに直面する典型的な「５つの壁」。その正体と、のり越えるためのヒントをシリーズでお伝えしています。
前回の記事では、「第3の壁：自社データを安全にAIへ活用できない」という課題を取り上げました。
前回のコラム記事：自社データを守りながら、AIの価値を最大化するには？
RAGや生成AI基盤の整備が進み、社内文書や業務データを活用できる環境を構築する企業も増えています。しかし実際には、その環境が整ったからといって、AI活用が全社に定着するとは限りません。
むしろ、多くの企業で次に見えてくるのが、「AIをどう安全に利用し、管理していくのか」という新たな課題です。例えば、
・社員が会社で承認していない生成AIサービスを利用していないか把握できない
・会社が整備した生成AI基盤以外へ、機密情報が持ち出されていないか不安がある
・自社で開発したAIアプリケーションやAIエージェントの安全性をどう確認すればよいか分からない
・AI利用ルールや承認プロセスが現場へ浸透していない
・AIの回答をどこまで業務利用してよいのか判断基準が曖昧
といった悩みです。
第2回でご紹介した「身近なAIツールが使われていない」という壁を乗り越え、第3回で「安全な生成AI基盤」を整備した企業ほど、今度はAI利用そのものをどう統制し、安心して全社展開するかという課題に向き合うことになります。
そこで今回取り上げるのが、“AI利用のガバナンスが追いつかない”という“第4の壁”です。
AI活用が進むほど見えてくる「シャドーAI」の問題
生成AIは、議事録作成や資料作成、情報収集など、さまざまな業務で活用されるようになりました。しかし利用が広がるほど、「会社が把握していないAI利用」も増えていきます。例えば、
・個人契約の生成AIサービス（ChatGPT、Gemini、Claudeなど）
・AI機能付きブラウザ
・AI拡張機能
などを、社員が業務目的で利用しているケースです。こうした企業が管理していないAI利用は、「シャドーAI」と呼ばれています。シャドーAIは、IT部門やセキュリティ部門が把握できない場所で利用されるため、情報漏えいやコンプライアンス上のリスクを高める要因として注目されています。
ある企業の社員が業務効率化を目的に生成AIへソースコードや社内資料を入力した結果、企業が想定していなかった情報管理上の問題につながった事例も報告されています。
ただ、こうしたシャドーAIの多くは、悪意があるわけではないのです。
「業務を効率化したい」
「もっと早く資料を作りたい」
「調査を効率化したい」
こうした日常業務の延長線上で、善意から利用が始まるケースが大半です。
だからこそ企業には、「どのAIが利用されているのかを可視化し、リスクを把握する仕組み」が求められています。
近年では、社内外から利用されるクラウドサービスや生成AIサービスへのアクセス状況を把握し、ポリシーに基づいて制御する仕組みも注目されており、「AI活用を禁止する」のではなく、「安全に利用できる環境を整える」という考え方へ、多くの企業がシフトし始めています。
AIガバナンスとは「利用を管理する仕組み」
ここで重要になるのがAIガバナンスです。AIガバナンスという言葉は難しく聞こえますが、本質はシンプルです。
「AIを安心して使い続けるためのルールと運用の仕組み」と言い換えることができます。例えば、
・どのAIサービスを利用して良いのか
・利用申請は必要か
・機密情報はどの範囲まで扱えるのか
・AIの回答は誰が確認するのか
・万が一事故が起きた場合の対応はどうするのか
といったルールを定めることもAIガバナンスの一部です。AI活用が一部の部署だけで終わらず、全社へ広がるほど、この仕組みの重要性は高まります。
第3の壁と第4の壁は何が違うのか
ここで、「それは前回のセキュリティの話と同じでは？」と思われる方もいるかもしれません。
実は、第3の壁と第4の壁ではテーマが異なります。第3回で取り上げたのは、「安全にAIを利用するための基盤づくり」でした。
例えば、
・Azure OpenAIを利用した生成AI基盤
・RAGによる社内文書活用
・アクセス制御
・データ保護
・ログ管理
といった仕組みです。
一方、今回のテーマは、「整備した基盤を含めてAI利用全体をどう管理するか」です。
安全なAI環境を用意しても、社員が別のAIサービスを利用してしまえばリスクは残ります。
第3回が「環境を作る話」だとすれば、第4回は「環境を維持・運用する話」と言えるでしょう。
AI時代のリスクは「使う側」と「作る側」で異なる
企業におけるAIリスクは、大きく2つに分けて考えられます。一つは、社員が外部の生成AIサービスなどを利用する際の「使う側」のリスクです。
そしてもう一つは、自社でAIアプリケーションを構築・運用する際の「作る側」のリスクです。
この2つは、関係する部門も、必要な対策も異なるため、一括りに「AIのリスク」として扱ってしまうと、議論がかみ合わなくなりがちです。
-
使う側のリスク
社員が生成AIを利用する際のリスクです。代表的なのは、
・シャドーAIの発生
・利用ルールの未整備
・不適切なデータ入力
・AI回答の無批判な利用
などです。企業としては、「どのAIが利用されているのか」を把握できる状態をまず作ることが重要です。また、利用状況を把握するだけではなく、
・機密情報の入力を防ぐ
・危険なAIサービスを制限する
・AI利用ポリシーを適用する
といった取り組みも必要になります。こうした領域で活用できるソリューションを導入するなどして、利用者に負担を与えずにアクセス制御やデータ保護を実現する企業も増えています。 -
作る側のリスク
最近は、自社独自のAI活用を進める企業も増えています。例えば、
・RAG型ナレッジ検索
・AIチャットボット
・AIエージェント
・顧客向けAIサービス
などです。しかし、こうしたシステムには、
・プロンプトインジェクション（AIをだまして本来は禁止されている回答や動作をさせようとする攻撃）
・不正アクセス
・AIモデルの脆弱性
・想定外の回答生成
といったリスクも存在し、AIだけではなく、AIが参照するデータや連携システムまで含めて安全性を確保する必要があります。
近年では、AIアプリケーションやAIエージェントを可視化し、脅威やリスクを評価しながら運用を支援するソリューションも登場しており、こうしたリスクへの対応も可能となっています。
企業が安心してAIを業務へ組み込むためには、生成AI基盤やAIアプリケーションを導入して終わりではありません。利用状況の把握やリスク評価、利用ルールの見直しを継続しながら、安全に運用できる状態を維持することが重要です。
AI活用を支える3つのステップ
AI利用のガバナンスを整備する際には、「把握する → 評価する → 改善する」という考え方が重要です。
まずは、何が利用されているのかを把握する。
次に、どこにリスクがあるのかを評価する。
そして、利用ルールや運用方法を継続的に改善する。
AI技術は日々進化しています。そのため、一度ルールを作っただけでは不十分です。現場の利用状況に合わせて見直し続けることが重要になります。
AI定着に必要なのは技術だけではない
ここまで見てきたように、AI活用を阻む原因は技術だけではありません。実際にAI活用が定着している企業ほど、
・利用ルール
・セキュリティ
・教育
・ガバナンス
・運用体制
をセットで整備しています。どれほど高性能な生成AI基盤を導入しても、利用者が不安を感じていたり、管理部門が利用状況を把握できなかったりすれば、AI活用は広がりません。
AI活用を定着させるためには、現場が安心して使えることと管理部門が適切に統制できることの両立が必要なのです。
まとめ
前回ご紹介した「自社データを安全にAIへ活用できない」という課題を乗り越えた後、多くの企業が次に直面するのが、
「AI利用のガバナンス」という課題です。特に、AI活用を全社に広げていくためには、
・シャドーAI対策
・AI利用ルールの整備
・利用状況の可視化
・AIアプリケーションの安全性評価
・利用者教育
といった取り組みが欠かせません。
最近では、AI利用状況の可視化やデータ保護、AIアプリケーションのリスク管理を支援するソリューションも登場しており、企業はより現実的にAIガバナンスへ取り組めるようになっています。
エクシオ・デジタルソリューションズでは、Microsoft Azureを活用した生成AI基盤の構築に加え、AIセキュリティ分野で評価の高いCisco AI DefenseやCisco Secure Accessを活用し、本記事内でもご紹介したようなAIツールを「使う側」と「作る側」両方へのリスク対策を通じて、お客様が安心してAIを活用できる環境づくりをご支援しています。
AI活用を成功させるために重要なのは、単にAIを導入することではありません。導入後も継続的に利用状況やリスクを把握し、安全に運用できる状態を維持することが重要です。
DX伴走支援サービス「EX-LIGN」では、生成AI基盤の整備からガバナンス設計、運用ルール策定、活用定着支援まで一貫してサポートし、お客様のAI活用が現場に根付き、成果につながるまで伴走します。
「EX-LIGN」の資料をご用意しました。まずはカタログをダウンロードしてご覧ください。
2026/10/20 | カテゴリ：AI
© EXEO Digital Solutions, Inc. All Rights Reserved.