なぜ生成AIの導入は「PoC止まり」で終わるのか

まず、生成AI活用の現在地を数字で確認します。「導入は進んでいるのに、成果が出ていない」というギャップが、世界中で起きています。
日本は「使う方針すら決まっていない」企業が半数
総務省「令和7年版 情報通信白書」(2024年度調査)によると、生成AIの活用方針を定めている日本企業は 49.7%。一方、米国・中国・ドイツはいずれも約9割で、大きな差がついています。
IPA(情報処理推進機構)の「DX動向2025」(2025年初の調査)も同じ傾向を示しています。生成AIに前向きな日本企業は5割弱で、米国(8割弱)・ドイツ(7割弱)に届きません。さらにDXを担う人材が「不足している」と答えた日本企業は 85.1%、経営者のITリテラシーが十分と答えた割合は日本40.2%に対し米国77.5%と、組織の足場そのものに差があります。
「まだ様子見」の段階にいる企業が多いからこそ、ここで足場を固めれば差をつけられる、とも言えます。
導入しても「利益にならない」企業が大半
では、先行する海外企業はうまくいっているのでしょうか。実は、導入と成果の間には大きな溝があります。
- マッキンゼーの調査(2025年)では、何らかの業務でAIを定常的に使う企業は 88% に達した一方、本業の利益(EBIT=利払い・税引き前の利益)への貢献を実感している企業は 39% にとどまりました
- MITのNANDAイニシアチブによる報告(2025年)では、企業の生成AIパイロットの約 95% が、損益への測定可能な効果を生めていないと指摘されています
※95%という数字は「損益インパクトを確認できない」という意味で、技術的にまったく動かなかったという話ではありません。煽り文句として独り歩きしやすい数字なので、定義とあわせて捉えるのが正確です。
止まる理由の筆頭は「データ品質」
なぜ前に進まないのか。調査会社ガートナーは、生成AIプロジェクトの少なくとも 30% が2025年末までにPoCの後に放棄されると予測し(2024年)、その理由の筆頭に「データ品質の低さ」を挙げました。
同社は別の調査(2025年)で、AIに適したデータ管理の手法を「持っていない、または持っているか分からない」組織が 63% に上るとも報告しています。
整理すると、AIプロジェクトがつまずく構図はこうです。
- 「AIを入れれば成果が出るはず」とツール導入を急ぐ
- しかし社内データが分散・重複・表記揺れだらけで、AIに渡せる状態にない
- PoCでは小さなデータで動いたが、本番のデータ量・複雑さに耐えられない
- 「思ったほど使えない」と評価され、本番投資の判断が下りない
モデルの性能ではなく、足元のデータが壁になっているわけです。発注前に確認すべき点はデータ基盤構築でよくある失敗と発注前チェックリストでも整理していますが、AI活用にもそのまま当てはまります。
散らかったデータでは、AIは「優秀な新入社員」でも力を出せない

なぜデータが整っていないとAIは力を発揮できないのか。仕組みを、できるだけ専門用語を使わずに説明します。
イメージしやすいのは、AIを 優秀な新入社員 にたとえることです。地頭は抜群でも、渡す資料が古く、どこに何があるか分からず、部署ごとに用語の意味が違えば、その新人は実力を出せません。逆に、整理された引き継ぎ資料があれば、初日から即戦力になります。AIとデータの関係も、これとまったく同じです。
「ゴミを入れれば、ゴミが出てくる」は今も変わらない
「Garbage in, garbage out(ゴミを入れれば、ゴミが出てくる)」という古い格言が、生成AI時代に再び注目されています。AIは賢く見えますが、入れるデータが汚ければ、出てくる答えも汚い。この原則は変わっていません。
下の図のように、同じAIでも、与えるデータの状態によって結果は正反対になります。
散らかったデータ分散・重複・表記揺れ
→
AI
→
もっともらしい誤答ハルシネーション
整ったデータ統合・定義統一・鮮度
→
AI
→
信頼できる回答根拠に接地
同じAIでも、与えるデータの状態で結果は正反対になるRAGは「書庫に資料を取りに行く調べもの係」
企業向けの生成AIアプリの多くは、RAG(検索拡張生成)という仕組みを土台にしています。難しそうな名前ですが、やっていることは単純です。
質問が来たら、まず社内の資料データベースから関連する情報を 検索して取り出し、それをお手本としてAIに渡してから答えさせる。AIが「もともと知っている一般知識」だけに頼らず、自社の最新・正確な情報を毎回参照させる仕組みです。
ここで決定的なのは、RAGは取り出せた情報以上の答えは出せない という点です。検索元のデータが古い・重複している・バラバラのフォーマットだと、AIは間違ったお手本を渡され、間違った答えを返します。優秀な調べもの係がいても、書庫が散らかっていれば、古い棚から間違った資料を持ってきてしまうのです。RAGの構成要素と実装で必要になるデータ基盤要件は、RAGとは?企業の社内データをAIに使わせる仕組みと作り方|2026年版で一歩踏み込んで解説しています。
「もっともらしい嘘」は、データ側の問題でもある
生成AIには、事実と異なる内容をもっともらしく作り上げる「ハルシネーション(幻覚)」という弱点があります。これを抑える有力な方法が、AIの回答を信頼できる自社データに結びつけて答えさせる「グラウンディング」で、RAGはその代表的な手段です。
AIが幻覚を起こしているというより、矛盾した社内データがLLM(大規模言語モデル)を混乱させている、という見方もあります。古く重複したデータを渡せば、AIは“正直に”その矛盾を反映して間違える、というわけです。
これは絵空事ではありません。2024年には、カナダの航空会社のチャットボットが実在しない割引運賃の規定を案内し、利用者に誤った情報を与えました。裁判機関は「自社サイト上のAIの発言にも会社が責任を負う」と判断し、賠償を命じています。整っていないデータの上でAIを動かすことには、こうした実害のリスクもあるのです。
「AIに使えるデータ」は、BI向けの整備とは別物

「分析用にダッシュボードは整備済みだから、AIもすぐ使えるはず」と考える方は少なくありません。しかし、人間が見るためのデータ整備と、AIに使わせるためのデータ整備は、別物です。
違いはシンプルです。人間はダッシュボードを見て「たぶんこの数字だな」と経験で補えます。AIは補いません。指示がなければ一般常識で推測し、自信満々で間違えます。だからAI向けのデータは、要求される水準が一段高くなります。
用語の「公式辞書」がないと、AIは勝手に推測する
たとえば「売上」という言葉ひとつでも、社内には複数の定義が存在します。受注ベースか入金ベースか、税抜きか税込みか、返品を含むか。人間のアナリストなら「これは税抜きですよね?」と先輩に聞き返せますが、AIは聞き返さずに推測で答えます。
この問題を防ぐのが、社内用語の「公式辞書」にあたるセマンティックレイヤー(意味の層)です。「この指標はこの計算式」という認定済みの定義を、AIが問い合わせるたびに自動で渡す仕組みを指します。
たとえば物流の現場では、BIダッシュボードが「定時配送98%」と表示していても、データベースに直接つないだAIが「92%」と答える、といったズレが起こり得ます。AIが「顧客が了承した遅延は除外する」という社内ルールを知らないためです。そのルールはBIツールの中にだけあり、データそのものには書かれていないからです。AIに正しく答えさせるには、こうした暗黙のルールまで明文化する必要があります。
AIに使えるデータの4つの条件
整理すると、「AIに使えるデータ(AI-readyなデータ)」には、おおむね次の4つの条件が求められます。
- 来歴が分かるパイプライン:データがどこから来て、どう加工されたかが記録され、品質チェックを通っている
- 統一された意味(メタデータ):用語や指標の定義が部署をまたいで一貫し、AIがいつでも参照できる
- 鮮度の保証:「このデータはいつ時点のものか」が明確で、古い情報で判断させない
- 問い合わせ時のアクセス制御:誰がどのデータを見てよいかの権限が、AIの問い合わせの瞬間に効く(見てはいけない機密を取り出させない)
人間(BI)向けの整備
- ダッシュボードで見やすい
- 多少の欠けは人が経験で補う
- 暗黙のルールは担当者の頭の中
- 定義の揺れは会議で擦り合わせ
AI向けの整備(AI-ready)
- 用語・指標の定義が機械可読で統一
- データの来歴と品質が記録済み
- 「いつ時点か」の鮮度を保証
- 権限が問い合わせの瞬間に効く
AIは人のように「たぶんこれ」と補わない。だから要求水準が一段高い
人間が見るデータ整備と、AIに使わせるデータ整備の違いこの水準に達している企業は、まだ多くありません。ガートナーの調査(2025年)では、自社データが十分な品質とアクセス性を備えていると答えた組織はわずか 12%。クラウデラとハーバード・ビジネス・レビューの共同調査(2025年実施・2026年公表、回答230社)でも、自社データが「AI導入に完全に対応できている」と答えた企業は 7% にとどまり、最大の障害は「データのサイロ化・統合の難しさ」(56%)でした。
DWH(データウェアハウス:分析用にデータを集約して保管する基盤)やdbtを使ったデータ整備の具体的な進め方は、DWH(データウェアハウス)とは?データレイクとの違いと選び方やdbtとは?BigQueryのデータ変換を効率化するツールを解説で詳しく解説しています。分析とAI開発を1つの基盤で扱うレイクハウス型のDatabricksについては、Databricksとは?レイクハウスの仕組みと料金を解説で整理しています。
AIに生データを丸投げしない|SQLで集計してから渡す

「AIに使えるデータ」を用意するとは、具体的にどういう作業なのか。広告データを例にすると分かりやすいので、もう一歩踏み込みます。
AIに分析させるとき、「全データを読み込ませれば賢く答えてくれる」と考えがちです。しかし、これは逆効果になりやすい進め方です。
Google・Yahoo!・Metaなどの広告データは、媒体ごとに項目も粒度もバラバラで、生のログは数百万行に膨らみます。これをそのままAIに渡すと、次の3つの問題が起きます。
- コストとトークンの壁:生ログを文脈に入れると、AIの処理上限を超えるか、従量課金で費用がかさむ
- 数字の捏造:AIは大量の行の合計や平均といった計算が苦手で、それらしい誤った数値を返しやすい
- 定義のばらつき:媒体ごとに違う「CPA」「コンバージョン」の定義がそろわないまま混ざる
そこで効くのが、AIに渡す前にSQLで前処理しておく、という順番です。
下の図のように、まずDWH(BigQueryなど)で媒体横断のマート(キャンペーン×日付×媒体ごとに、消化金額・コンバージョン・CPA・ROASを日次集計したテーブル)を作ります。AIには、その数十行の集計済みテーブルと「先週CPAが悪化した媒体と要因は?」という問いだけを渡します。
生の広告ログ数百万行・媒体ごとにバラバラ
→
SQLで集計DWH(BigQuery など)
→
要約テーブル数十行に圧縮
→
AIが解釈数字の要因を説明
トークン激減・数字の捏造を防止・指標の定義もそろう
生データを丸投げせず、SQLで集計してからAIに渡す ── 計算はSQL、解釈はAI役割分担はシンプルです。計算は決定的なSQLに任せ、AIは出てきた数字の解釈と説明に専念させる。こうすると、AIに渡す量は激減し、数字の捏造も起きにくく、指標の定義もそろいます。整ったデータ基盤があるからこそ、この前処理が回るわけです。
広告レポートを例にした費用や進め方は広告レポート自動化の費用は?ツール・代行の料金相場と選び方で、媒体横断のデータ基盤を活かした広告分析は広告データ分析サービス「アドヨミAI」でも紹介しています。
AIの差別化は、モデルではなく「自社の独自データ」で決まる

もう1つ、経営の視点で押さえておきたい論点があります。それは「AIで何が競争優位になるのか」という問いです。
ChatGPT、Gemini、Claudeといった基盤モデルは、誰もが同じものを使えます。競合他社もまったく同じAIを使える以上、モデルの性能そのものは差別化の源泉になりにくい。マッキンゼーは2024年の論考で「すべての中心にあるのはデータだ。良質で関連性のあるデータにアクセスできなければ、この新しい可能性は手の届かないままになる」と述べています。
AI研究者のアンドリュー・ング氏も、優れたモデルが広く手に入るようになった今、勝負どころは「データをどう体系的に整えるか」に移ったと主張しています。モデル中心からデータ中心へ、という考え方です。
ただし「データを貯めるだけ」では強みにならない
ここで注意したいのは、「とにかくデータを大量に貯めれば勝てる」という単純な話ではないことです。
ベンチャーキャピタルのa16zは2019年の時点で「単にデータ量が多いというだけでは、それ自体が強みになることは普通はない」と指摘していました。やや古い論考ですが、生成AIブームの今こそ読み返す価値があります。
差を生むのは、データの量そのものではなく、自社にしか持てない独自データを、先ほどの4つの条件を満たす形に整えられているか です。顧客の購買履歴、現場の作業ログ、過去の商談記録。こうした独自データを、定義を揃え、品質を保証し、AIから安全に参照できる状態にする。それができて初めて、競合が真似できない優位になります。そして、それを実現する仕組みこそがデータ基盤です。
データ基盤がなぜ企業の競争力に直結するのかという全体像は、データ基盤とは?企業が導入すべき3つの理由と構成要素を解説でも整理しています。
AIの土台になるデータ基盤の全体像

では、AIを支えるデータ基盤とは、具体的にどんな構成なのでしょうか。実は、AI以前から整備されてきた「データの製造ライン」が、ほぼそのままAIの土台になります。
家にたとえると分かりやすいかもしれません。AIは、眺めの良い最上階です。その下には、倉庫(データの保管)、配送(データの運搬)、仕込み(データの加工)といった階層が積み上がっています。土台の階を飛ばして、最上階だけを建てることはできません。
下の図のように、データは下から順に積み上がり、その一番上にBI(人間向けの可視化)とAI活用が乗ります。
BIツール人が見る可視化
AI活用RAG・AIエージェント
↑ 整ったデータを供給
蓄積DWH(BigQuery / Snowflake)
データソースSalesforce・会計ソフト・Webログ・現場ログ
AIは、整ったデータ基盤の「上」に乗る ── 土台を飛ばして最上階だけは建てられない各層の役割を簡単に整理します。
- 収集(ETL/ELT):Salesforce、会計ソフト、Webログなど各システムからデータを集める。ETLとELTの違いはETLとELTの違いとは?5つの比較軸とELTが主流になった理由で解説しています
- 蓄積(DWH):BigQueryやSnowflakeなどのクラウドDWHに、全社データを一元保管する
- 加工(dbt など):生データをクレンジングし、分析・AIに使える形に整える。処理ルールをコードとして残せる
- 意味づけ(データカタログ・セマンティックレイヤー):整ったデータに「定義」と「探しやすさ」を与える。AI活用で重要性が増している層
ポイントは、この「データの製造ライン」が、2025年以降あらためてAI活用の根幹として位置づけ直されたことです。DWHは単なる過去の記録置き場ではなく、AIに正しい材料を供給する中核になりました。各構成要素の流れはデータパイプラインとは?ETLとの違いと仕組みを図解で解説もあわせてご覧ください。
Evastの現場では:「まずAIツールを選びたい」というご相談をよくいただきますが、最初にお聞きするのは「そのAIに渡すデータは、今どこにありますか」です。データが各部署のExcelやSaaSに散らばったままだと、どんなツールを選んでも空回りします。遠回りに見えても、データを集めて整える基盤づくりから入るのが、結局いちばんの近道です。
AIでデータ整備を加速し、好循環をつくる

ここまでは「AIのためにデータ基盤が要る」という一方向の話でした。しかしAI時代の本当の面白さは、その逆方向にもあります。データ基盤を整える作業そのものを、AIで加速できる のです。
かつてデータ整備は、地道で時間のかかる手作業の代表でした。「データ分析者は作業時間の8割をデータ準備に費やす」という有名な数字があります。出典が古く曖昧なため鵜呑みにはできませんが、やや古いながらAnacondaの調査(2022年)でも、データの前処理やクレンジングは依然として最大の時間項目(約38%)でした。この重い前工程に、AIが効き始めています。
具体的には、次のような場面でAIを活用できます。
- データの説明文(ドキュメント)の自動生成:「このテーブルは何のデータか」をAIが下書きする
- 表記揺れ・異常値の検出:「東京都」「東京」「Tokyo」のような揺れをAIが見つけて整える
- SQLの生成補助:欲しい集計を日本語で伝えると、AIがクエリの下書きを作る
- メタデータの付与:大量のデータ項目に意味のラベルを付ける作業をAIが手伝う
ここから、AI時代ならではの好循環が生まれます。データ基盤を整える → その上でAIが正しく動く → AIがさらにデータ整備を助ける → 基盤がもっと良くなる。この回転を回せる企業が、AI活用で先に進みます。
ただし順序を間違えてはいけません。整えるべき土台がまったくない状態でAIだけを入れても、加速させる対象がなく空回りします。あくまで小さくても基盤を先に作り、そこにAIを効かせていく。この順番が、好循環のスタート地点です。
AI時代のデータ基盤、何から始めるか

最後に、実際の進め方です。結論から言えば、1つのユースケースに絞って小さく始める こと。これはAI活用でもデータ基盤でも共通する鉄則です。
全社一斉ではなく、ユースケースを1つ選ぶ
「全社のデータをAIで活用する」という大きな目標から入ると、要件が膨らんで頓挫します。そうではなく、「営業の問い合わせ対応をAIで支援する」「過去の見積書をAIで検索できるようにする」のように、価値が見えやすい1つの用途を選びます。
その用途に必要なデータだけを、まず整える。3〜6か月で最初の成果を出し、現場の信頼を得てから対象を広げる。この進め方が定着率を大きく左右します。検証を本番につなぐ具体的な手順はデータ基盤のPoCの進め方|5ステップと成功基準・費用の目安で解説しています。
内製か外注かは「人材の現実」から考える
もう1つの分かれ道が、内製か外注かです。ここで効いてくるのが、先ほどの数字です。DXを担う人材が不足していると答えた日本企業は85.1%。データエンジニアの採用は、どの企業でも簡単ではありません。
現実的な解は、設計や立ち上げは外部の力を借り、運用は社内に寄せていくハイブリッドです。どちらで進めるべきかの判断軸は、データ基盤は内製と外注どっち?判断基準とハイブリッドの進め方で詳しく整理しています。費用感についてはデータ基盤構築の費用相場は?見積もりの内訳と判断基準を解説もあわせてご覧ください。
将来のAI活用を見据えた構想づくりから相談したい場合は、データ戦略策定サービスも入口になります。
まとめ:AIへの投資は、データ基盤への投資から

AI時代にこそデータ基盤が必要な理由を、あらためて整理します。
- AIの成果はモデルではなくデータで決まる:生成AIがPoC止まりになる原因の筆頭はデータ品質。ゴミを入れればゴミが出る原則は、生成AI時代も変わらない
- AIに使えるデータは、BI向けの整備とは別物:用語の統一・鮮度・アクセス制御まで含めて整えて初めて、AIは正しく答える
- 差別化は自社の独自データで決まる:モデルは誰もが同じものを使える。整えた独自データこそが競争優位になる
- データ整備自体もAIで加速できる:基盤を先に作れば、AIが基盤づくりを助ける好循環が回り出す
生成AIは、確かに強力な道具です。しかし道具の力を引き出すのは、足元のデータの質です。AIツールの選定を急ぐ前に、「そのAIに、どんなデータを渡すのか」を考える。遠回りに見えて、これがAI活用の最短ルートです。
なぜ「データの扱い方」がDXの成果を分けるのか、その背景はなぜ今データマネジメントが必要なのか?DX成功の本質を解説でも解説しています。まずは「どの業務で、どんなAI活用をしたいのか」を1つ書き出すことから始めてみてください。用途が決まれば、整えるべきデータは自然に絞り込めます。
AI活用に向けたデータ基盤づくりはEvastへ
株式会社Evastでは、データ基盤の設計・構築からBIダッシュボード開発、AI活用を見据えたデータ整備まで を一貫して支援しています。
- 「生成AIを使いたいが、まず社内データの現状整理から相談したい」
- 「PoCで止まってしまった原因を、データの観点から見直したい」
- 「将来のAI活用に耐えられる構成で、小さく始めたい」
「自社のデータがAIに使える状態かどうか分からない」という段階からでも構いません。現状診断からロードマップ策定、構築・運用定着まで伴走します。
→ データ基盤構築サービスを見る → 無料相談を申し込む