AIセキュリティとは？生成AIのリスクと企業の対策を解説
AIセキュリティとは、AIの利用と開発に伴う情報漏えい・不正操作・悪用のリスクを管理する取り組みです。守る対象は、システムや端末だけではありません。AIに入力する情報、AIが読める社内データ、AIに渡した権限、AIの出力まで含みます。
この記事の要点
- AIセキュリティとは、AIの利用と開発に伴う情報漏えい・不正操作・悪用のリスクを管理する取り組みです。
- 従来のサイバーセキュリティ対策は、社員がAIに入力する情報やAIに渡した権限までは守れません。
- IPAの「情報セキュリティ10大脅威 2026」は、組織編の3位に「AIの利用をめぐるサイバーリスク」を初めて選びました。
- 企業の対策は、利用状況の棚卸し、入力してよい情報の線引き、使ってよいAIと設定の決定から始めます。
AIセキュリティが指す3つの領域
「AIセキュリティ」という言葉は、文脈によって指す範囲が変わります。整理すると次の3つです。AIを業務で使う企業がまず取り組むのは、1つ目の「AIを安全に使う」領域です。
| 領域 | 内容 | 例 |
|---|---|---|
| AIを安全に使う・守る | AIの利用やAIシステムに伴うリスクを管理する | 入力情報の線引き、権限の制限、プロンプトインジェクション対策 |
| AIを使った攻撃に備える | 攻撃者によるAIの悪用を前提に防御を見直す | 精巧なフィッシング、音声や映像のなりすまし |
| AIを防御に使う | セキュリティ業務にAIを活用する | ログの分析、脆弱性の調査 |
AIセキュリティが重要になった理由
IPA（情報処理推進機構）の「情報セキュリティ10大脅威 2026」は、組織編の3位に「AIの利用をめぐるサイバーリスク」を選びました。この脅威が選ばれたのは2026年版が初めてです。[1]
AIは、文章を作る道具から、ファイルを読み、コマンドを実行し、外部サービスを操作する仕組みへ広がっています。AIに渡す権限が増えるほど、1回の誤操作や悪用で起きる被害も大きくなります。OWASP が2025年12月に AIエージェント向けの Top 10 を公開したのも、この変化を反映しています。[3]
従来のサイバーセキュリティとの違い
AIセキュリティは、サイバーセキュリティの代わりではありません。既存の対策に加えて必要になる領域です。生成AIの利用では、正規のアカウントから正規の操作で情報が外に出ることがあり、ウイルス対策やファイアウォールでは止められない場合があります。
| 観点 | 従来のサイバーセキュリティ対策 | AIセキュリティ |
|---|---|---|
| 守る対象 | システム・端末・ネットワーク | AIに渡す情報・権限、AIの出力 |
| 主なリスク | マルウェア、不正アクセス、脆弱性の悪用 | 入力情報の漏えい、プロンプトインジェクション、過剰な権限、誤情報 |
| 主な手段 | ウイルス対策、アクセス管理、脆弱性診断 | 入力情報の線引き、利用するAIの承認、設定の確認、人による確認 |
| 判断の基準 | 技術的な設定やパッチの適用状況 | 業務・情報の機密度・AIの組み合わせ |
AIセキュリティの主なリスク
生成AIのリスクを整理する国際的な枠組みに、OWASP の「Top 10 for LLM Applications 2025」があります。企業のAI利用に引き寄せると、次の10項目になります。日本語の説明は編集部の要約です。[2]
| ID・名称 | 企業のAI利用で起きること |
|---|---|
| LLM01 Prompt Injection | 読ませた文書やWebページの中の指示で、AIが操られる |
| LLM02 Sensitive Information Disclosure | 入力した情報やAIが読める情報が、回答を通じて漏れる |
| LLM03 Supply Chain | モデルやパッケージに問題が混入する |
| LLM04 Data and Model Poisoning | 学習データやモデルが汚染される |
| LLM05 Improper Output Handling | AIの出力を確認せず実行・表示して被害が出る |
| LLM06 Excessive Agency | AIに権限を渡しすぎて、誤操作や悪用の被害が広がる |
| LLM07 System Prompt Leakage | 内部の指示文と、そこに含まれる秘密が漏れる |
| LLM08 Vector and Embedding Weaknesses | 社内文書検索（RAG）で権限外の情報が出る |
| LLM09 Misinformation | もっともらしい誤情報を信じて判断を誤る |
| LLM10 Unbounded Consumption | 大量利用で高額請求やサービス停止が起きる |
実際に起きた事例
- 情報の入力：生成AIへの個人情報アップロードの事例
- 共有機能：ChatGPT の共有リンクによる乗っ取り
- APIキー：APIキーの漏洩と高額請求（LLMjacking）
- AIエージェント：指示ファイルを悪用した攻撃
- パッケージ：LiteLLM のサプライチェーン攻撃
企業が進めるAIセキュリティ対策の手順
最初から高度な製品を入れる必要はありません。実際の使い方を把握し、判断基準を決め、変化に合わせて見直す順に進めます。
- 利用状況を棚卸しする。 社内で使われているAI、拡張機能、個人契約のサービス、扱っている情報を洗い出します。
- 情報の機密度を決める。 顧客情報・個人情報・社外秘などを区分し、AIに入力してよい範囲を業務ごとに決めます。
- 使ってよいAIと契約プランを決める。 学習利用の扱い、データの保存、管理機能を確認します。同じAIでも、個人向けと法人向けでは条件が異なる場合があります。
- 必須の設定を決める。 学習利用の設定、共有リンク、外部連携、多要素認証を確認します。
- AIエージェントの権限を絞る。 読めるフォルダ、実行できるコマンド、外部通信を制限し、重要な操作は人が承認します。
- ソフトウェアの脆弱性を管理する。 AIが自動で入れたパッケージも含めて棚卸しし、脆弱性情報と照合します。
- 相談窓口と事故時の手順を決める。 迷ったときの相談先と、誤って入力したときの連絡手順を社内に周知します。
- 定期的に見直す。 新しいAIの導入、用途の変更、規約の変更をきっかけに基準を更新します。
AIセキュリティの確認項目
- 社内で使っているAIと拡張機能を一覧にしている
- AIに入力してはいけない情報を明文化している
- 業務で使うAIの学習利用の設定を確認している
- 共有リンクと外部連携の設定を確認している
- AIエージェントの権限と承認の手順を決めている
- AIが入れたパッケージの脆弱性を確認している
- 誤入力や事故が起きたときの連絡先を周知している
参考にするガイドラインと枠組み
| 資料 | 発行元 | 使いどころ |
|---|---|---|
| AI事業者ガイドライン（第1.2版、2026年3月31日）[4] | 総務省・経済産業省 | 国内でAIを開発・提供・利用する事業者の指針 |
| 情報セキュリティ10大脅威 2026[1] | IPA | 社内教育や経営層への説明 |
| OWASP Top 10 for LLM Applications 2025[2] | OWASP | 生成AIのリスクの洗い出し |
| OWASP Top 10 for Agentic Applications 2026[3] | OWASP | AIエージェントのリスクの洗い出し |
| AI Risk Management Framework 1.0（2023年1月）、Generative AI Profile（2024年7月）[5] | NIST（米国） | AIリスク管理の体系づくり |
これらの指針は、そのままでは現場の判断に使えません。自社の業務・情報・AIの組み合わせに落とし込み、「この情報をこのAIに入れてよいか」を社員が判断できる形にする必要があります。
まとめ
AIセキュリティは、AIの利用を止めるための取り組みではありません。使ってよいAI、入れてよい情報、必須の設定を決めて、安全に使える範囲を広げる取り組みです。まず社内のAI利用を棚卸しするところから始めてください。
よくある質問
AIセキュリティとは何ですか？
AIの利用と開発に伴う情報漏えい・不正操作・悪用のリスクを管理する取り組みです。AIに入力する情報、AIが読めるデータ、AIに渡した権限、AIの出力までを守る対象にします。
AIセキュリティとサイバーセキュリティの違いは何ですか？
従来のサイバーセキュリティ対策は、主にシステム・端末・ネットワークを守ります。AIセキュリティは、AIの使い方と、AIに渡す情報や権限を守ります。どちらか一方ではなく、併用します。
AIセキュリティ対策は何から始めればよいですか？
最初に社内で使われているAIと扱っている情報を棚卸しします。次に、入力してよい情報を決め、使ってよいAIと必須の設定を決めます。
無料版の生成AIを業務で使っても問題ありませんか？
サービスと設定によって条件が異なるため、一律には判断できません。入力内容の学習利用、データの保存、管理機能を確認し、扱う情報の機密度と照らして判断します。
AIエージェントのセキュリティで特に注意する点は何ですか？
権限の広さと、外部の内容に操られるリスクです。読めるファイルや実行できるコマンドを必要な範囲に絞り、重要な操作は人が確認します。
AIセキュリティのガイドラインには何がありますか？
国内では総務省・経済産業省のAI事業者ガイドラインと、IPAの情報セキュリティ10大脅威が参考になります。海外ではOWASPのTop 10とNISTのAI Risk Management Frameworkが代表的です。