生成AIのセキュリティリスクとは？中小企業が押さえるべき情報漏えいとAI悪用攻撃の対策

ChatGPTをはじめとする生成AIは、資料作成やメール文面の作成、問い合わせ対応まで、中小企業の日常業務に急速に浸透しました。業務効率化やDX推進の切り札として期待される一方で、「入力した機密情報や個人情報が外部に残るのではないか」「AIを悪用したサイバー攻撃が増えているらしい」といった不安の声も高まっています。

実際、IPA（情報処理推進機構）が公表した「情報セキュリティ10大脅威 2026」では、「AIの利用をめぐるサイバーリスク」が初登場で組織編の第3位にランクインしました。生成AIの便利さとセキュリティリスクは、まさに表裏一体です。

本記事では、生成AIに潜むリスクを「情報漏えい」と「AIを悪用した攻撃」の両面から整理し、専任担当者がいない中小企業でも今日から始められる対策をわかりやすく解説します。

生成AIの普及で何が変わったのか？中小企業に広がる利便性とリスク

中小企業に生成AIが急速に広がる理由

生成AI（ジェネレーティブAI）とは、大量のデータを学習したLLM（大規模言語モデル）をもとに、文章・画像・プログラムコードなどを自動生成する技術です。ChatGPTだけでなく、GeminiやCopilotなどのAIサービスも身近になり、SaaS型ツールの一機能として生成AIが組み込まれるケースも増えています。とくに人員に限りのある中小企業ほど、省力化のメリットは大企業以上に大きいといえるでしょう。代表的な活用例は次のとおりです。

便利さの裏で見落とされがちな「導入の前提」

生成AIの導入は、情報システム部門が主導するのではなく、現場の社員が「便利だから」と個人で使い始めるかたちで進むことが多いのが実情です。その結果、セキュリティ面の検討が後回しになり、知らないうちに機密情報や個人情報、顧客情報をAIに入力してしまっているケースが少なくありません。利便性だけに目を向けて使い始めると、情報漏えいやコンプライアンス上のリスクに直結します。

生成AIのリスクは大きく二つに分けて考える

生成AIのリスクを考える際は、すべてを一括りにするのではなく、「自社の利用方法に起因するリスク」と「外部の攻撃者によるリスク」の二つに分けて整理すると理解しやすくなります。生成AIそのものが危険なのではなく、どのように利用するか、また攻撃者がどのように悪用するかによってリスクの性質が大きく異なるためです。

具体的には、次の二つに分類できます。

この二つは発生原因も影響範囲も異なります。そのため、生成AIのリスク対策を検討する際は、それぞれを切り分けて考えることが欠かせません。次章から、それぞれのリスクの内容と具体的な対策について詳しく見ていきましょう。

生成AIの情報漏えいリスク｜入力した情報はどこへ行くのか

近年は生成AIの業務利用が急速に広がる一方で、情報管理ルールが追いついていない企業も少なくありません。まずは、企業が知っておくべき生成AIの情報漏えいリスクについて理解しておきましょう。

入力した情報は学習に使われることがある？

生成AIは機械学習をもとに成り立つ技術のため、サービスによっては入力内容が品質改善目的や学習データとして扱われる場合があります。社外秘の資料、顧客の個人情報、自社のソースコードなどをそのまま入力すると、その情報がサービス提供側に残り、思わぬ形で流出するリスクを伴います。チャットの手軽さゆえに、メールやファイル共有以上に無防備に情報を打ち込んでしまいやすい点が、生成AIの情報漏えいの怖さです。

また、近年は社内文書を検索できるRAG（検索拡張生成）型のAIチャットボットの導入も進んでいます。こうした仕組みは業務効率化に大きく貢献する一方、アクセス権限の設定が不十分な場合、本来なら閲覧できない情報にAIがアクセスし、意図せず回答に含めてしまうリスクもあります。生成AIを活用する際は「何を入力してよいのか」「AIがどの情報にアクセスできるのか」を明確に定めることが重要です。

実際に起きた「うっかり」漏えいの事例

2023年には大手電機メーカーの従業員が、機密性の高いソースコードや社内会議の情報をChatGPTに入力してしまい、社内で生成AIの利用が制限される事態となったケースが報じられました。悪意がなくても、使い方ひとつで機密情報は外部に出てしまうーこれが生成AIの情報漏えいの典型例です。

こうした事例の特徴は、サイバー攻撃や不正アクセスではなく、正規の利用者による「善意の行動」が原因となっている点です。業務を効率化したい、文章を要約したい、プログラムの不具合を確認したいといった日常業務の延長線上で機密情報が入力されてしまいます。

最大の盲点「シャドーAI」と国の動き

シャドーAIとは、IT部門による把握や許可を得ないまま、社員が個人の判断で生成AIを業務に使っている状態を指します。会社がどのツールにどんな情報が入力されているかを把握できていないこと自体が、大きなリスクです。

こうした状況を踏まえ、総務省は2026年3月27日に「AIのセキュリティ確保のための技術的対策に係るガイドライン」を公表し、AIが参照できる情報源のアクセス制限や監視体制の整備など、AIシステムのセキュリティ確保に向けた技術的対策を整理しています。

企業に求められているのは、単に生成AIの利用を禁止することではなく、「どのAIを利用するのか」「どの情報を入力してよいのか」「誰がどのデータへアクセスできるのか」を明確にし、安全に活用できる環境を整備することだといえるでしょう。

参考：「AIのセキュリティ確保のための技術的対策に係るガイドライン」（総務省）（https://www.soumu.go.jp/main_content/001064122.pdf）

AIを悪用したサイバー攻撃｜攻撃側もAIを使う時代へ

生成AIのリスクは、自社が情報を漏えいしてしまうことだけではありません。近年は攻撃者側も生成AIを積極的に活用しており、サイバー攻撃の高度化・効率化が急速に進んでいます。

企業は「生成AIを安全に利用する」だけでなく、「生成AIを使った攻撃から身を守る」という視点も持つ必要があるのです。

巧妙化するフィッシングとディープフェイク

これまで日本語の不自然さで見破れていた詐欺メールも、生成AIを使えば自然で説得力のある文面を大量に作成できます。代表的なAI悪用の手口は次のとおりです。

特に近年注目されているのがディープフェイクです。実在する経営者や上司の音声・映像をAIで再現し、「至急送金してほしい」「このファイルを開いてほしい」といった偽の指示を出す手口が海外を中心に報告されています。メールだけでなく、音声や動画まで偽装できるようになったことで、企業はこれまで以上に多層的なセキュリティ対策を求められています。

AIで巧妙化したフィッシングメールへの対抗策として、受信前に不審メールを自動検知・ブロックするクラウド型メールセキュリティの導入が有効です。

「使えるメールバスター」の詳細はこちら＞＞

生成AI特有の脅威「プロンプトインジェクション」

プロンプトインジェクションとは、AIに与える指示（プロンプト）の中に不正な命令を紛れ込ませ、開発者が意図しない動作をさせたり、本来は出力してはいけない社内情報を引き出させたりする攻撃です。また、APIキーや内部設定が誤ってプロンプトやシステム内に含まれていると、攻撃によって外部に漏えいする危険性もあります。

総務省のガイドラインでも、AIシステムに対する代表的な脅威としてプロンプトインジェクション攻撃が取り上げられています。例えば、「過去の指示を無視せよ」といった命令を入力してAIの制約を回避させたり、社内文書を参照するRAG型チャットボットから機密情報を引き出そうとしたりする手口です。

また、攻撃者が細工したWebサイトや文書ファイルをAIに参照させることで、AIの判断を誤らせる「間接プロンプトインジェクション」と呼ばれる手法も存在します。自社のFAQに生成AIを連携させた場合、巧妙に細工された入力で非公開情報を引き出される可能性があります。AIチャットボットや社内ナレッジ検索にAIを使うなら、この対策が欠かせません。

なぜ中小企業ほど狙われやすいのか

攻撃の自動化・高度化が進み、攻撃のコストは下がっています。コストが下がれば、狙われる対象は広がります。「うちのような中小企業は狙われない」という思い込みはもはや通用せず、むしろセキュリティ対策が手薄な中小企業ほど、AIで効率化された攻撃の格好の標的になりやすいのが実情です。

さらに、近年は取引先やサプライチェーンを経由した攻撃も増加しています。攻撃者は大企業へ直接侵入するのではなく、比較的防御が弱い中小企業を足がかりにするケースもあります。企業規模に関係なく、自社も攻撃対象になり得るという前提で対策を進めることが重要です。

IPA「情報セキュリティ10大脅威 2026」で読み解くAIリスクの現在地

2026年版では、生成AIの普及に伴う新たなサイバーリスクが初めて上位にランクインしました。これは単なる一時的な話題ではなく、企業のセキュリティ対策においてAIリスクへの対応が不可避なフェーズに入ったことを示しています。

組織編トップ3とAIリスクの初登場

IPAが毎年公表する「情報セキュリティ10大脅威」は、前年に発生した社会的影響の大きかった事案をもとに、約250名の専門家の投票で順位を決める信頼性の高い指標です。2026年版の組織編の上位は次のとおりです。

新しい脅威が初登場でいきなり3位に入るのは異例で、生成AIの普及スピードと脅威の現実化の速さを示しています。

参考：IPA（独立行政法人情報処理推進機構）「情報セキュリティ10大脅威 2026」（https://www.ipa.go.jp/security/10threats/10threats2026.html）

脅威は連鎖する―AIは「増幅装置」

注目すべきは、これら上位の脅威が互いに無関係ではない点です。AIリスクは単独で存在するのではなく、既存のサイバー攻撃をさらに強力にする「増幅装置」として機能します。

例えば、ランサムウェア攻撃の多くはフィッシングメールや認証情報の窃取から始まります。従来は日本語の不自然さや誤字脱字から見破れた攻撃メールも、生成AIを使えば自然な文章で大量に作成可能です。さらに、取引先とのやり取りを模倣したメールや、経営層になりすました指示メールを自動生成することも容易になっています。

また、サプライチェーン攻撃との相性も悪くありません。攻撃者は生成AIを利用して公開情報やSNSの投稿を効率的に収集し、取引先の関係性や担当者情報を分析できます。その結果、より精度の高い標的型攻撃を低コストで実施できるようになりました。

つまり、「ランサムウェア」「サプライチェーン攻撃」「AIリスク」は別々の問題ではなく、相互に結びつきながら被害を拡大させる関係にあります。AIを活用した攻撃は、既存の脅威をさらに危険なものへと変化させているのです。

まず自社の立ち位置を把握する

AIリスクへの対策というと、高度なセキュリティ製品の導入や専門人材の確保をイメージするかもしれません。しかし、中小企業が最初に取り組むべきことはもっと基本的なところにあります。それは、自社がどのようなリスクにさらされているのかを客観的に把握することです。

例えば、業務で生成AIを利用している社員はどのくらいいるのか、利用しているツールを会社は把握できているのか、機密情報を入力しないルールは整備されているのか、といった点を確認するだけでも多くの課題が見えてきます。メール、VPN機器、クラウドストレージ、生成AI連携ツールなど、自社のどこが攻撃の入口になり得るのかを整理することも重要です。

限られた予算や人員で効果的な対策を進めるためには、すべてのリスクに同じように対応するのではなく、優先順位を付ける必要があります。その判断材料として、IPAの「情報セキュリティ10大脅威」は非常に有用です。あわせて、中小企業向けのセキュリティ対策評価制度（SCS評価制度）を活用すれば、自社の対策状況を客観的に点検できます。経営層と情報システム担当者が定期的に確認し、自社の状況と照らし合わせながら対策を見直していくことをおすすめします。

中小企業が今日から始める生成AIセキュリティ対策5つ

生成AIの活用は業務効率化や生産性向上に大きく貢献します。しかし、そのメリットを安全に享受するためには、情報漏えいやサイバー攻撃への備えが必須です。とはいえ、多額の予算や専門人材がなければ対策できないわけではありません。中小企業でも今日から取り組める基本的な対策を積み重ねることで、多くのリスクを低減できます。ここでは、優先的に実施したい5つの対策を紹介します。

アクセス権限の細かな設定や操作ログの管理まで対応できるクラウドストレージを選ぶことで、「誰がどのファイルを見られるか」を確実にコントロールできます。

「使えるファイル箱」の詳細はこちら＞＞

まとめ｜「禁止」ではなく「安全に使いこなす」へ

生成AIは、業務効率化や生産性向上に大きな可能性をもたらす一方で、情報漏えいやサイバー攻撃といった新たなリスクも生み出しています。しかし、だからといって利用を全面的に禁止することが最善策とは限りません。大切なのは、「使うか使わないか」ではなく、「どう安全に使うか」という視点です。リスクを正しく理解し、必要な対策を講じることで、生成AIのメリットを最大限に活かしながら情報資産を守ることができます。

取り組みの順序を整理する

やるべきことはシンプルです。次の順序で進めれば、専任担当者がいない中小企業でも、業務効率化のメリットを享受しながらリスクを着実に下げられます。

まずは現状を把握し、ルールを整備することが出発点です。そのうえで、ツール選定や権限管理、教育といった対策を積み重ねることで、生成AIの活用とセキュリティを両立できるようになります。一度に完璧を目指すのではなく、できるところから着実に進めることが成功のポイントです。

安全なデータ管理基盤を土台にする

生成AIのセキュリティ対策を考えるうえで忘れてはならないのが、「AIに渡る前の情報をどう守るか」という視点です。どれだけ利用ルールを整備しても、社内のデータ管理が不十分であれば、情報漏えいのリスクを根本的に解決することはできません。

そのためには、安全なデータ保管・共有環境、バックアップ体制、メールセキュリティ対策といった基盤を整備することが重要です。例えば、クラウドストレージのセキュリティを高めてアクセス権限を細かく管理し、機密情報を適切に保管すること、ランサムウェアに備えてバックアップを取得すること、不審なメールを入口でブロックすることなどは、生成AI時代においても変わらない基本対策です。

使えるねっとでは、ユーザー数無制限のクラウドストレージサービス「使えるファイル箱」や中小企業のための総合データ保護ソリューション「使えるデータプロテクト」、クラウド型メールセキュリティサービス「使えるメールバスター」などを通じて、企業の情報資産を守るための環境づくりを支援しています。生成AIの活用を推進しながら情報漏えいリスクを抑えたい企業は、まずはこうした安全なデータ管理基盤の整備から取り組んでみてはいかがでしょうか。

FAQ

ランサムウェア被害やデータ消失への備えとして、ウイルス検知・バックアップ・DR・M365保護をまとめて対応できる総合データ保護ソリューションの導入もご検討ください。

「使えるデータプロテクト」の詳細はこちら＞＞

お電話でのお問い合わせはこちら：03-4590-8198
（営業時間：10:00-17:00）