生成AIのセキュリティ対策とは｜企業が導入前に整理すべき論点

そもそもなぜ生成AI導入でセキュリティが論点になるのか

生成AI（人が書いたような自然な文章を作ったり、質問に答えたりできるAI技術）の企業導入が進むにつれ、経営層や情報システム部門からは「セキュリティが不安」という声がよく聞かれます。この不安の中身を分解すると、大きく分けて「入力した情報がどう扱われるか」「出力された内容をそのまま信頼してよいか」「社内システムと連携させた際にどこまでアクセスを許可してよいか」という3つの論点に整理できます。生成AI導入を検討する際は、この3つの論点それぞれについて、自社としての判断基準を持っておくことが実務的な出発点になります。

生成AI利用に伴うセキュリティリスクの種類（概念整理）

生成AIのセキュリティを考える際によく挙げられるリスクを、概念レベルで整理すると次のようになります。

• 入力データの学習利用（AIサービス提供側が、ユーザーが入力した文章をモデルの学習に再利用する運用のこと）に関するリスク——契約・設定によって学習利用の可否が変わるため、利用するサービスの規約・設定を確認する必要があるという論点があります。
• 出力内容の正確性に関するリスク——生成AIは事実と異なる内容をもっともらしく生成する場合があるとされ（いわゆるハルシネーション）、出力をそのまま社外に出す前の確認体制が論点になります。
• 権限設計に関するリスク——AIエージェント（自律的に判断し社内システムを操作するAIの仕組み。詳しくはAIエージェントとはで整理）が社内データベースや業務システムに接続する場合、どの範囲までアクセス・操作を許可するかという権限設計がセキュリティの論点になります。
• 外部連携に関するリスク——MCPサーバーのような接続規格を介してAIと外部システムをつなぐ場合、接続先ごとに認証・認可の設計が必要になるという論点があります。

これらは個別の脅威を暗記することよりも、「自社のどの情報・どのシステムが、どの経路でAIに触れるのか」を洗い出すことが対策の出発点になるという点で共通しています。

社内ルール・ガイドライン策定で決めるべきこと

生成AI利用に関する社内ルールを整備する際、具体的な設定手順よりも前に、まず次の意思決定をしておくことが土台になります。

• 入力してよい情報の範囲（顧客の個人情報・取引先の非公開情報等をどこまで入力対象外とするか）
• 利用してよい生成AIサービス・利用を控えるべきサービスの線引き
• 出力内容を業務で使う前に、誰がどのような形で確認するか
• 社内システムとの連携を許可する場合、誰が権限の付与・見直しを判断するか

これらの意思決定は業種・取り扱う情報の性質によって適切な線引きが異なるため、他社の設定をそのまま流用するのではなく、自社の情報資産の棚卸しから始めることが実務的です。

社外に出せないデータがある場合の選択肢

取引先契約や業界慣習上、外部のAIサービスにデータを送信すること自体が難しい場合もあります。この場合の選択肢の一つが、ローカルLLM（大規模言語モデルを社内環境や自社専用のクラウド区画で稼働させ、データを外部のAIサービス提供元に送信しない形態）や専用環境の構築です。RAG（社内データをLLMに参照させる仕組み）と組み合わせて、社内データを外部に出さずに活用する構成を取ることも可能です。ただし、ローカルLLMは汎用のクラウド型サービスと比べて構築・運用の負担が相対的に大きくなる傾向があるため、自社のデータの機密性の高さと、構築・運用にかけられるリソースを見比べて判断することになります。

依頼先（開発会社）に確認すべきこと

生成AI活用を外部の開発会社に依頼する場合、発注側があらかじめ確認しておくとよい観点は次のとおりです。

• 入力データが学習利用されない設定・契約になっているか
• 開発したAIエージェントやシステムがアクセスできる社内データ・システムの範囲をどう設計しているか
• 出力内容の確認体制をどう組み込む設計になっているか
• 障害・誤作動が起きた場合の切り戻し（ロールバック。以前の状態に戻す対応のこと）の考え方

特定のセキュリティ対策手法や製品の優劣を判断することよりも、依頼先が自社の情報資産の性質を理解した上で設計してくれるかどうかを確認することが実務的な出発点になります。

陥りやすい誤解

生成AIのセキュリティ対策を検討する際に見られる誤解を整理します。

①特定のツールを導入すればセキュリティ対策が完了すると考えてしまう——セキュリティは入力データの扱い・出力の確認体制・権限設計など複数の要素の組み合わせであり、単一のツール導入だけで完結するものではありません。

②社内ルールを作れば運用が自動的に守られると考えてしまう——ルールの策定と、それが実際の利用シーンで守られる状態を作ることは別の課題であり、運用に乗せるための仕組み（確認体制・権限設計）を合わせて検討する必要があります。

③セキュリティを厳しくするほど良いと単純に考えてしまう——過度に利用を制限すると、生成AI活用による業務効率化の効果自体が失われる場合があるため、自社の情報資産の重要度に応じた濃淡をつけることが実務的です。

導入の進め方と費用の目安

awaiでご案内している一般的な進め方は次のとおりです（相場感の参考としてご覧ください）。

①診断では、対象業務で扱う情報の性質・入力してよい範囲・連携したい社内システムを洗い出し、セキュリティ面でどのような設計が必要かを見立てます。

②実装では、診断内容をもとに、権限設計や出力確認体制を組み込んだ形で開発を進めます。

③運用では、業務内容の変化や新しい連携先の追加に応じて、ルールや権限設計を継続的に見直します。

費用は対象業務の複雑さや連携するシステムの数によって変わりますが、awaiがご案内している一般的な水準は次のとおりです。

• 初期診断・設計：20〜30万円（情報資産の棚卸し・権限設計の方向性整理・ROI試算）
• 実装：50〜200万円（対象業務の範囲・連携システムの複雑さによる）
• 保守・運用：5〜15万円／月（ルール・権限設計の継続的な見直し）

awaiでは、この初期診断を営業の入口として設計しています。有償の診断で「どの業務を、どのような設計でAI活用できるか」をセキュリティ面も含めて先に見立て、実装をご発注いただいた場合は診断費を全額実装費に充当します。

まとめ——セキュリティは導入を止める理由ではなく、設計で扱う論点

生成AIのセキュリティは、「不安だから使わない」という判断基準ではなく、「どの情報を、どの範囲で、どう確認しながら使うか」を設計する論点として捉えることが実務的です。入力データの扱い・出力内容の確認体制・権限設計という3つの論点を自社の情報資産に照らして整理すれば、過度に恐れることなく検討を進められます。AIエージェントの全体像はAIエージェントとは、外部システムとの接続規格はMCPサーバーとは、社内データ活用の仕組みはRAGの仕組みでそれぞれ整理していますので、あわせてご覧ください。

※本記事の費用は市場の一般的な目安であり、対象業務の範囲・複雑さによって変動します。正確なお見積りは診断にて算出します。

生成AI導入やセキュリティに関するよくあるご質問はよくあるご質問でも回答しています。