総務省が2026年7月に公表した令和8年版情報通信白書には、生成AI活用の状況を企業規模別に分けたデータが載っています。中小企業は予算も外部の専門家も大企業と同じように確保できている一方で、社内データの整備だけが大きく遅れています。
この記事では、こうしたデータをもとに、中小企業のAI導入がどの段階で止まるのかを明らかにします。
中小企業のAI導入の現状と大企業との差
生成AIの活用方針を定めている企業の割合は、大企業74.0%、中小企業58.1%でした。「積極的に活用する方針である」と「活用する領域を限定して利用する方針である」を合計した数字で、両者の差は15.9ポイントです。
| 生成AI活用方針 | 大企業 | 中小企業 |
| 積極的に活用する方針である | 34.6% | 20.4% |
| 活用する領域を限定して利用する方針である | 39.4% | 37.7% |
| 利用を禁止している | 4.5% | 1.2% |
| 方針を明確に定めていない | 15.0% | 31.5% |
| 分からない | 6.5% | 9.3% |
内訳を見ると、差がついているのは「積極的に活用する」企業の割合です。大企業では34.6%なのに対して中小企業では20.4%で、14.2ポイント開いています。一方、「活用する領域を限定して利用する」は39.4%と37.7%で、差は1.7ポイントにとどまります。中小企業でも、利用する範囲を決めたうえで生成AIを使うところまでは大企業と同じ水準に来ています。
前年からの伸びは中小企業のほうが大きい
前年度の調査と比べると、生成AIの活用方針を定めている企業の割合は、中小企業のほうが大きく伸びています。
| 令和8年版 | 前年版 | 伸び | |
| 大企業 | 74.0% | 55.7% | 18.3ポイント |
| 中小企業 | 58.1% | 34.3% | 23.8ポイント |
白書も「特に中小企業において大きな上昇が見られた」としています。中でも目立つのは、方針を定めていない企業の減少です。「方針を明確に定めていない」と答えた中小企業は47.6%から31.5%へ、16.1ポイント減りました。一年で、方針を持たない企業が3社に1社まで下がったことになります。
デジタル化を実施していない中小企業は57.5%
同じ白書の第Ⅱ部には、AIに限らず、企業のデジタル化の取り組み状況を尋ねた調査が載っています。こちらは企業向けAI調査とは別の調査で、日本の回答企業数も4,855社と規模が違うため、数字をそのまま比較することはできません。それでも中小企業の状況を知るうえで、参考になります。
デジタル化を実施済みと答えた中小企業は30.6%で、57.5%が「実施しておらず、今後も予定なし」と回答しています。大企業は実施済みが75.0%、予定なしが19.2%なので、中小企業との差はかなり大きいといえます。
生成AIの活用方針は58.1%の中小企業が定めている一方で、デジタル化そのものに着手した企業は3割にとどまります。つまり、多くの中小企業では、デジタル化を進めるより先に生成AIの活用が始まっていることになります。この順序が、後で見る社内データの遅れに関わってきます。
出典：総務省「令和8年版情報通信白書」第Ⅱ部第1章第11節「データ集」
日本のAI導入の遅れはどこにあるのか
生成AIの活用方針を定めることと、組織として取り組むことは別です。白書では、生成AI活用による業務変革などに関する組織的な取組の状況も調査しています。
| 組織的な取組の状況 | 大企業 | 中小企業 |
| 全社横断的に事業変革やイノベーションに取り組んでいる | 26.1% | 11.9% |
| 各部署における業務の最適化や価値向上を行っている | 35.0% | 26.9% |
| リサーチや資料作成など個人の生産性向上に組織的に取り組んでいる | 12.2% | 10.6% |
| 組織的な取組はない | 18.1% | 45.6% |
| わからない | 8.6% | 5.0% |
組織的な取組がないと答えた中小企業は45.6%で、大企業18.1%の2.5倍です。方針を定めた中小企業が58.1%であることと比較すると、方針はあるが組織としては動いていない企業が相当数あることになります。
国際比較で見た日本の27.0%
この設問には国別のデータもあります。日本の数字が他国と大きく離れているのは、4つの選択肢のうち「組織的な取組はない」の項目だけです。
| 組織的な取組の状況 | 日本 | 米国 | ドイツ | 中国 |
| 全社横断的に取り組んでいる | 21.5% | 35.6% | 20.7% | 40.9% |
| 各部署で業務の最適化や価値向上を行っている | 32.4% | 40.6% | 48.1% | 32.0% |
| 個人の生産性向上に組織的に取り組んでいる | 11.7% | 22.1% | 26.0% | 23.8% |
| 組織的な取組はない | 27.0% | 0.4% | 0.4% | 0.7% |
日本の「全社横断的に取り組んでいる」と答えた企業はドイツの20.7%を上回っており、先頭を走る企業の割合だけを見ると、日本は他国に劣っていません。差が大きく出ているのは「組織的な取組はない」という回答で、他国では、規模の大小にかかわらずほぼすべての企業が何らかの取組を持っています。つまり、日本では生成AIを組織的に活用している企業が少ないというより、企業による取組の差が大きいことが特徴といえます。
「組織的な取組はない」の27.0%は、大企業18.1%と中小企業45.6%が混ざった結果です。日本のAI導入の遅れは、平均の遅れではなく、中小企業で組織的な活用が進んでいないことが大きな要因になっていると考えられます。
中小企業と大企業の差はどこにあるのか
ここまでの数字だけを見ると、中小企業は経営の意思決定もリスク意識も足りないと思うかもしれません。ところが、白書のデータを項目ごとに見ていくと、必ずしもそうとは言えません。大企業と同じ水準にある項目もあれば、むしろ中小企業のほうが高い項目もあります。
経営幹部からの指示で大きな差はない
生成AI活用に関する戦略や方針の状況を尋ねた設問では、中小企業の回答が大企業を上回る項目もあります。
| 戦略や方針の状況 | 大企業 | 中小企業 |
| 経営戦略のなかでAI活用の目的や方針が明示されている | 38.5% | 31.6% |
| 経営幹部がAI活用の意義について社内外に情報発信している | 37.7% | 30.4% |
| 経営幹部から各部署に対して実施事項や達成目標が提示されている | 26.3% | 32.9% |
| 取組を推進する部署や責任者が明確になっている | 29.6% | 22.8% |
| AI導入のための投資計画が具体化されている | 23.9% | 19.0% |
| 人材のリスキリングや配置転換の方針が明示されている | 10.1% | 11.4% |
| 特に実施している施策はない・把握していない | 12.1% | 22.8% |
中小企業で最も多い回答は「経営幹部から各部署に対して実施事項や達成目標が提示されている」の32.9%です。大企業は26.3%で、中小企業のほうが6.6ポイント高くなっています。7項目のうち、中小企業が大企業を明確に上回るのはこの項目だけです。白書はこの結果について、中小企業のAI活用ではトップダウンの関与がキーポイントになっているとしています。
一方、経営戦略への明示や社外への発信では大企業との差がついています。それでも、「これをやる」と社長が各部署に直接伝えることでは大企業を超えています。企業規模が小さい分、決定権者と現場の距離が近く、方針が文書を経由せずに伝わりやすいのかもしれません。
リスク対策の運用と指針・ツールの整備で差がある
セキュリティリスクや法的・倫理的問題を防ぐための取組についても、企業規模による違いが見られます。
| リスク対策の取組 | 大企業 | 中小企業 |
| 全社的な指針やガイドラインを整備している | 44.9% | 29.1% |
| AIガバナンスの取組を推進する部署や責任者が明確になっている | 36.0% | 35.4% |
| 製品・サービスの企画・導入段階で専門的な知見から審査する体制がある | 27.1% | 22.8% |
| 製品・サービス導入後、定期的な評価・検証が行われている | 29.6% | 27.8% |
| 生成AIへの入力データを学習データとして利用できない仕組みを導入している | 19.8% | 20.3% |
| AIガバナンスツールを導入し、リスク検知や攻撃の防御が行われている | 11.7% | 6.3% |
| 特に実施している施策はない・把握していない | 13.8% | 24.1% |
「AIガバナンスの取組を推進する部署や責任者が明確になっている」では差が0.6ポイント、「製品・サービス導入後、定期的な評価・検証が行われている」でも1.8ポイントにとどまります。「生成AIへの入力データを学習データとして利用できない仕組みを導入している」では、中小企業20.3%に対して大企業19.8%で、中小企業のほうがわずかに高い結果です。生成AIの利用を禁止している企業も、中小企業1.2%に対して大企業4.5%で、中小企業のほうが少なくなっています。
一方、同じ表のなかで差が大きいのは「全社的な指針やガイドラインを整備している」の15.8ポイントと、「AIガバナンスツールを導入し、リスク検知や攻撃の防御が行われている」の5.4ポイントです。負けているのは文書と道具です。担当者を決め、使ったあとに検証し、入力データの扱いを設定するところまでは、中小企業も大企業と同じ水準で実行しています。
ただし「特に実施している施策はない・把握していない」は中小企業24.1%で、大企業13.8%より10.3ポイント高いままです。同じ設問への回答のなかに、大企業と並ぶ層と、まだ手をつけていない層が同居しています。
中小企業のAI導入がつまずく一点
生成AI活用に向けた環境整備の状況を見ると、中小企業が大企業に届いていない項目と、追いついている項目がはっきり分かれます。
| 環境整備の状況 | 大企業 | 中小企業 |
| 生成AI活用検討に向けた予算や人員が確保されている | 38.5% | 34.2% |
| 業務プロセスの見直しや生成AI活用検討に必要なスキルやノウハウを学ぶ環境がある | 41.3% | 35.4% |
| 専門家によるアドバイスやサポート体制がある | 20.2% | 27.8% |
| 分析・活用可能な社内データの整備が進められている | 28.7% | 17.7% |
| 生成AIに社内データを学習させたり、生成AIが参照可能なデータベースを構築したりしている | 26.7% | 17.7% |
| 社員が生成AIを活用したアプリやAIエージェントを開発可能な技術環境にある | 16.6% | 11.4% |
| 特に実施している施策はない・把握していない | 17.8% | 26.6% |
予算や人員の確保は34.2%で、大企業とほぼ並んでいます。専門家によるアドバイスやサポート体制は27.8%で、大企業の20.2%を上回っています。中小企業は、AI活用のために資金を用意し、社外の専門家にも相談できている状態です。
それでいて、社内データに関わる2つの項目だけが17.7%で止まっています。
「社内データの整備」とは何を指すのか
白書の設問は「分析・活用可能な社内データの整備が進められている」です。これは、社内にある情報が、探せば見つかり、中身を読み取れる状態になっていることを指します。
たとえば、過去の見積書がPDFで年度別のフォルダに入っていて、案件名で探せる。業務マニュアルがWordで管理され、どれが最新版かがわかる。問い合わせの記録が表計算ソフトに日付順で並んでいて、担当者以外でも読める。こうした状態です。
逆に、紙のバインダーで棚に並んでいる、担当者個人のパソコンのデスクトップにある、そもそも文書化されておらず担当者の記憶にしかない、といった情報はここに入りません。中小企業の17.7%という数字は、社内の情報がまだこの段階に届いていない企業が8割を超えることを示しています。
「AIが参照できる形にする」とは何を指すのか
もう一つの設問は「生成AIに社内データを学習させたり、生成AIが参照可能なデータベースを構築したりしている」です。人が探せる状態にすることと、AIが引ける状態にすることは、続いた作業のように見えて中身が違います。
生成AIは、尋ねられた内容に近い記述を文書のなかから探し出して答えます。そのため、文書を意味のまとまりごとに区切り、検索できる形に変換しておく作業が必要になります。フォルダに整理されたPDFを、そのままAIに渡しても答えは返りません。
もう一つ、誰がどの情報まで参照できるかを決める作業があります。給与や人事評価の記録が全社員のAIから読める状態になっては困ります。白書も、部門や職階によってアクセスすべきでない情報が出力されないよう、AIが参照するデータの範囲を絞る対策に触れています。
この2つを済ませた中小企業が17.7%で、日本全体の24.5%、米国全体の57.2%と比べても低い水準にあります。
デジタル化を飛ばした日本の中小企業
AIが参照できる形にするには、その前に元の情報が電子化され、どこに何があるかが分かる状態になっている必要があります。紙とExcelのまま各部署に散らばっていれば、AIに渡すデータをそろえること自体が難しくなります。
先に見たとおり、デジタル化を実施していない中小企業は57.5%でした。一方、生成AIの方針を定めている企業は58.1%あります。この2つは別の調査の結果なので単純比較はできませんが、生成AIから先に入った企業では、AIに渡せる形の社内情報が用意できていない、という状況は起こり得ます。
白書が示すAI導入の3ステップ
白書は、AI導入と活用によって効果を生み出すまでを3段階に分けたモデルを示しています。図の上部には、段階が進むにつれて「社内・業界独自データの整備や業務システムとの連携等、投資判断を含む組織的推進が求められていく」とされています。
出典：総務省「令和8年版情報通信白書」第Ⅰ部第2章第1節「企業におけるAI利用の現状」（45頁、図表Ⅰ-2-1-23）
ステップ1は中小企業も通過している
第1段階は、全社員が汎用AIをパートナーとして活用し、日々の業務の質とスピードを向上させる段階です。リサーチ、翻訳、アイデア出し、文書作成が例に挙げられています。この段階で組織や基盤として求められるのは、ユースケースを見つけて社内に広げること、そして安心して活用できる環境とルールを整えることです。
白書はこの段階の注意点を二つ挙げています。一つは、社員が個人の判断でAIを業務に使う「シャドーAI」が、入力した機密情報の流出などのリスクにつながることです。もう一つは、汎用ツールを導入しても一部の積極的な社員が使うだけで、全社的な活用と効果に至らない場合があることです。後者の対策として、活用事例を集めて社内に展開したり、定期的なワークショップを開催したりする取組が必要になります。
日清食品グループは、生成AIの活用効果を見込める対象業務を部門ごとに選定してプロンプトのテンプレートを作り、効果を測定する取組を社内に広げた結果、社内の生成AI利用率が7割を超えたとされています。
中小企業の方針策定は58.1%まで増えており、議事録やメール作成補助の活用率は日本全体で7割を超えています。この「まず汎用AIを使ってみる」という段階は、多くの中小企業がすでに通り過ぎたところといえそうです。
ステップ2に進む条件
第2段階は、自社の課題や成長戦略、AIの特性を踏まえて生成AI活用戦略を定め、効果を見込める一部のプロセスからAIを組み込んでいく段階です。人間が担うべき役割と、生成AIに任せる部分を整理することがこの段階の中心になります。
そのための組織や基盤として挙げられているのは、社内データ、人材育成、変革支援、ガバナンスの四つです。このなかで最も優先して考慮に入れるべきなのは社内データです。
第3段階は、社内や業界のデータで学習したAIがあらゆる業務プロセスに組み込まれ、バリューチェーン全体で生産性が向上する段階です。AIが完全自律で動くプロセスを広げ、出力結果を高度化し、AIから提案を受けながら業務を進める形に発展していきます。
資金は出しているのに社内に残っていない
環境整備のデータを見ると、予算や人員は34.2%で確保できています。専門家によるアドバイスやサポート体制は27.8%で、大企業の20.2%を上回っています。
一方で、社内データの整備は17.7%にとどまり、外部への投資に比べて、社内AIを活用する基盤が十分に整っていないことがわかります。つまり、「資金を出し、外部に相談もしているのに、社内には何も残っていない」状態です。
相談で解決する部分と、手を動かさないと進まない部分
白書は、AI活用の先進企業への聞き取りをまとめ、専門部門の役割を次のように述べています。
事業部門の現場における個別のニーズや課題意識を検討の起点としており、そこに、AI活用を推進するDX推進部門が、具体的なアイデアの創出、AI導入に際しての技術的アドバイスやセキュリティ対策、効果測定のほか、AIスキル等の学習や知見共有を受けられる機会の設定といった伴走支援を担当していた。
アイデアを出し、技術的な助言をし、効果を測る。ここまでは外部への相談で置き換えがききます。
一方、白書は社内データとAIの連携についてはこう書いています。
本調査でヒアリングを実施したAI活用先進企業、特に全社的にDXを推進する専門的な部門を擁する大企業においては、各事業部門での変革の取組を支援するため、最新のAI技術を活用可能な共通基盤を整備するとともに、社内システムや社内データとAIの連携を進めている。
社内データとAIをつなぐところは、共通基盤の整備という言葉で表されています。相談を受けても、社内資料をAIが読める形に変換する作業は誰かがやらなければ終わりません。中小企業において社内データの整備が17.7%と低いのは、この部分が空いていることが要因であると考えられます。
白書がヒアリングした中小企業の進め方
白書が個別に聞き取りを行った企業のうち、中小企業はアイニコグループ1社です。奈良県や京都府南部を中心に、注文住宅、リフォーム、介護、保育、DXコンサルティングを手がけている企業です。
経営者自身が生成AIを壁打ちに使い始めたことがきっかけで、AI前提の働き方に変えなければ会社の将来はないという認識に至り、社内での活用推進を指示したとされています。その後、専門の支援業者と連携して全社員向けの勉強会を開いた結果、10事業部の合計で年間2,247時間の業務時間削減につながっています。
同社は、専門家の支援が特に有効だった局面を二つ挙げています。「その課題はAIで解決すべきかどうか」という課題設定時の判断と、「このやり方ではうまくいかない」というプロジェクト始動後の個別相談です。どちらも判断を助ける場面であり、社内資料をAIから読める形に変換する作業そのものではありません。外部に相談できる体制は整っていても、社内でAIがデータを活用できる環境までは整っていないのが多くの中小企業の現状だと考えられます。
中小企業のAI導入に関するよくある質問
白書のデータから答えられる範囲で、4つの質問に回答します。
予算はどのくらい必要ですか
TOUHAでは、初期費用○万円・月額○万円のAI導入プランを提供しています。
なお、生成AI活用検討に向けた予算や人員が確保されていると答えた企業は、中小企業34.2%、大企業38.5%で、差は4.3ポイントです。予算の確保が最大の壁になっているわけではありません。
生成AIの利用を禁止したほうが安全ではないですか
生成AIの利用を禁止している中小企業は1.2%で、大企業の4.5%より少ない水準です。白書は、社員が個人の判断でAIを業務に使う「シャドーAI」が、入力した機密情報の流出などのリスクを孕むとしています。情報漏えい対策を適切に施した生成AIの活用環境を社内に整備し、利用時のルールやガイドラインを整備して周知するのがおすすめです。
社内に専門の人材がいなくても導入できますか
専門家によるアドバイスやサポート体制があると答えた中小企業は27.8%で、大企業の20.2%を上回っています。外部に頼ること自体は、中小企業のほうが進んでいます。ただし社内データをAIが読める形にする作業は17.7%にとどまるため、相談先とは別に、実際に手を動かす体制が必要になります。
デジタル化ができていなくてもAI導入は進められますか
実際に、多くの中小企業がその順序で入っています。デジタル化を実施した中小企業は30.6%、生成AIの活用方針を定めた中小企業は58.1%です。ただし生成AIが参照できるデータベースの構築は17.7%にとどまり、飛ばした分がここに現れています。AIから読ませたい情報が紙やローカルのファイルに散っている場合、変換の前に電子化と所在の把握が必要になります。
まとめ：中小企業のAI導入で次に着手すること
企業規模で差がついているのは、全社的なガイドラインという文書と、AIガバナンスツールという道具です。方針策定や責任者の明確化、予算確保、専門家への相談体制などは、中小企業でも一定程度進んでいます。止まっているのは社内データです。分析や活用ができる社内データの整備は17.7%、それをAIが参照できる形にする作業も17.7%で、いずれも大企業の3割前後に届いていません。相談で置き換えられるのはアイデアや助言までで、社内資料を変換する作業は誰かが手を動かす必要があります。
中小企業が次に着手すべきことは、新しくデータを集めることでもガイドラインを作ることでもありません。AIに読ませたい社内資料を一つ選び、それが今どこに、どのような形式で置かれているかを確認するところからです。その過程を確認することで、自社の課題が具体的に見えてきます。
出典：総務省「令和8年版情報通信白書」第Ⅰ部第2章第1節「企業におけるAI利用の現状」（図表Ⅰ-2-1-2、Ⅰ-2-1-3、Ⅰ-2-1-4、Ⅰ-2-1-5、Ⅰ-2-1-9、Ⅰ-2-1-23）
出典：総務省「令和8年版情報通信白書」「データ集」（第Ⅱ部第1章第11節「デジタル化の取組状況（日本：企業規模別比較）」）