企業における生成AIの「乱立」にどう向き合うか——AI活用とガバナンスの両立
生成AIの進化はとどまることを知りません。「気づけば社内のあちこちで、誰が作ったのか分からないAIチャットボットが動いている」——そんな状況に心当たりはありませんか？
スピードを重視した結果、管理が追いつかなくなる。この問題は今、多くの企業が直面している現実です。
本コラムでは、企業における生成AI活用のスピードとガバナンスを両立させるためのポイントを、セゾンテクノロジーの実践を交えて紹介します。
企業における生成AI活用の3つの壁
企業における生成AI活用では、大きく3つの壁があると考えています。
- 入口の壁：企業として何から始めれば良いか分からない。
- 精度の壁：期待値だけが高まり、実務に耐えうる回答とは何か、という定義もないまま進んでいく。
- 乱立の壁：とりあえず始めてみた結果、いろんな仕組みがバラバラに動いている。
ここで特に注目したいのが、スピードを重視した結果引き起こされる「乱立の壁」です。
「AIスプロール」とも呼ばれ、組織内でAIツールやアプリが増殖し、管理ができない状態を指す用語です。
各部門が独自にRAGやチャットボットを構築し、誰がどこでどんなAIを使っているのか把握できない。そんな状態に陥っている企業は少なくありません。
▼RAGについてもっと詳しく知りたい
⇒ 検索拡張生成（RAG：Retrieval Augmented Generation）｜用語集
なぜAIの乱立が起きてしまうのか？
乱立の多くは、現場の前向きな姿勢がきっかけで生まれます。
その背景には3つの要因があります。
導入コストの低さ
生成AIの多くはSaaSやAPIとして提供されており、すぐに利用を開始できる特徴があります。
部門の裁量で決裁が完結しやすく、正規の調達や稟議のプロセスをすり抜けて導入が進みやすい構造にあります。
技術的参入障壁の低さ
LLMはプロンプトを入力すればもっともらしい回答を返すため、専門的な開発スキルがなくてもチャットボットやRAGを構築できてしまいます。
局所最適のインセンティブ
「まずはやってみる」が評価される文化の中では、全社基盤の整備を待つよりも、自部門の業務課題を今すぐ解決する方が合理的に映ります。成果の横展開よりもスピードが優先されるため、各部門が独自に最適化を進め、結果として全社的な乱立を招きます。
こうした要因が重なることで、誰かが意図的に乱立を招いたわけではなく、それぞれの合理的な判断の積み重ねとして、気づけば管理の及ばないAIが社内に散在している状態が生まれるのです。
なぜ企業において生成AIの乱立は危険なのか？
その理由は、大きく「統制の不在」「コストの重複」「データの不整合」という3つの問題に集約されます。
まず、企業として設けたルールに沿ったAI活用ができているかどうか把握できず、統制が効かない状態に陥ります。
さらに、複数の部門が同じような仕組みに対して二重、三重のコストを支払うことにもなります。
またそれぞれの仕組みがバラバラに動くことで、データの参照元が統一されず、古い社内規定や誤ったデータに基づく回答が生成されるリスクがあります。部門ごとに異なる回答が出回れば、現場の混乱や誤った意思決定につながりかねません。
攻めの姿勢を止めないために、守りの仕組み化
この乱立を抑えるために、再び利用を制限するのが正解なのでしょうか？答えはNOです。
各部門のスピード感を損なわずに、統制を効かせる。個別の取り組みを「点」で終わらせず、全社的な資産へとつなげる。集中管理・分散実行モデルのAI推進体制が必要だと考えます。
では、具体的に何を押さえるべきか？ポイントは以下の3つです。
モデルの一元管理
各部門が多種多様なモデルを個別に契約するのではなく、企業として一元的に管理し、用途に応じて最適なモデルを提供する。
利用状況の可視化
誰がいつ、どのくらいのトークンを消費したかを明確にし、シャドーAIの把握とコスト最適化を図る。
リスクの早期検知
ログから利用状況を把握し、悪意のないうっかりミスによる機密情報の入力や、不適切な利用傾向を早期に発見できる仕組みを作る。
では、これらを実際にどのように運用しているのか。次のセクションでセゾンテクノロジーの実践例を紹介します。
セゾンテクノロジーの実践例
ここからは、セゾンテクノロジーが実際に取り組んでいる生成AI基盤のガバナンスについて紹介します。
前述の3つのポイントを踏まえ、当社ではダッシュボードを中心とした「可視化 → 分析 → 改善」のフィードバックループを回すことで、ガバナンスを一過性の取り組みではなく、継続的に進化する仕組みとして運用しています。
具体的には、以下の3つのサイクルで実践しています。
①利用実績の分析
アクティブユーザー数や対話数だけでなく、モデル/用途/所属部門などの切り口で分析しています。これにより活用が進んでいる部署の成功パターンを横展開できるほか、効果の薄い取り組みの見直しにもつなげています。
②プロンプト分析によるナレッジの拡充
プロンプトの傾向を分析し、頻出する問い合わせをFAQやテンプレートとして整備しています。
導入初期には「AIに何を聞けばいいか分からない」という声が多く、よくある質問をUIとして可視化することで、AI活用の入口を広げる役割を担っていました。
利用が成熟してきた現在では、分析の軸をシフトし、部門横断で共通する業務課題の抽出や、回答精度が低い領域の特定に活用しています。こうした分析結果をプロンプトの改善やRAGの参照データ見直しにフィードバックすることで、仕組み全体の精度向上につなげています。
③自律的な仕組みのアップデート
プロンプトからガードレール（禁止事項）として追加すべきルールは無いか確認し、継続的にガードレール自体をアップデートします。例えば、想定していなかった機密情報の入力傾向が見つかれば、ガードレールへ反映します。
生成AIの進化は速く、一度決めたルールもすぐに実態と合わなくなります。利用実態に合わせてルール自体をアップデートし続ける仕組みを目指しています。
さいごに
企業におけるAIガバナンスと聞くと「利用を制限するもの」と捉えがちです。
しかし本来ガバナンスの目的は制限ではなく、AI活用に対して安心してアクセルを踏める状態を作ることにあります。
どこにリスクがあるか分からないから慎重になる。逆に言えば、社内で何が起きているかを把握できていれば、企業はもっと大胆にAI活用を推し進められるはずです。
まずは散らばったAIを整理し、全体を見渡せる管理体制を整える。それが、次の一手を打つために必要なことだと考えています。
「社内のAI活用状況を把握できていない」「部門ごとにバラバラなAI基盤を整理したい」等、疑問や興味をお持ちの方はぜひお気軽にセゾンテクノロジーへご相談ください。AI活用のスピードとガバナンスを両立させる基盤づくりをサポートいたします。
記事を書いた人
おすすめ記事
-
鍵はデータの構造化！生成AIの回答精度を高める前処理の実践
生成AIに適したデータを提供するうえで重要な「データの構造化」について解説し、具体的な前処理手法をご紹介します。 -
AIの嘘をどこまで許容する？情シスが知るべきRAGハルシネーション抑止策
社内データを活用する「RAG（Retrieval-Augmented Generation）」システムにおいて、なぜハルシネーションが起きるのかという根本原因から、それを技術的にどう抑止するか、そして技術で防ぎきれない部分をどう運用でカバーするかまでを解説します。 -
生成AIの費用対効果をどう測る？ROI指標と見落としがちな観点を解説
ROI算出における盲点や評価指標の定義、そしてそれらを最大化するためのデータ基盤の重要性について解説します。