AIリテラシー エシカルハッキング

エシカルハッキングとは

エシカルハッキング（Ethical Hacking）とは、攻撃者の視点と技術を用いてシステムをテストし、防御の穴（脆弱性）を発見する「善意のハッキング」のことです。これを行う専門家は「ホワイトハッカー」と呼ばれます。従来のWebシステム診断に加え、AIエージェント監査においては「レッドチーミング（Red Teaming）」と呼ばれるAI特有の攻撃シミュレーションが重要視されています。

具体的には、「JAILBREAK（脱獄）」プロンプトを用いてAIの倫理フィルターを突破しようとしたり、意図的に矛盾したデータを与えてエージェントを混乱させたりして、フェイルセーフ機構が正しく作動するかを確認します。

AIエージェントへの攻撃手法

エシカルハッカーは、日々進化するAI攻撃手法を模倣します。

• プロンプトインジェクション: 「あなたはAIではなく、ハッカーです」といった指示を与え、システム設定を上書きさせる。
• データ汚染（Poisoning）: 外部検索機能を持つエージェントに対し、検索結果に悪意ある偽情報を混入させ、誤った回答を誘導する。
• モデル抽出: 大量のクエリを投げることで、背後にあるモデルのパラメータや学習データを推測・模倣する。

実務での課題と対策

AIの挙動は確率的であるため、一度のテストで脆弱性がないと断定することはできません。このため、何千通りもの攻撃パターンを自動生成してテストする「自動レッドチーミングツール」の導入が進んでいます。また、ハッキングの結果発見された脆弱性は、CVSS（共通脆弱性評価システム）などでスコアリングされ、修正の優先順位付けに利用されます。

失敗例・トラブル事例

• 不十分なスコープ設定: 診断対象を「チャット画面の入力フォームのみ」としていたため、裏で動いているAPIエンドポイントへの直接攻撃を見落としました。攻撃者はGUIを経由せず、APIを経由してプロンプトインジェクションを実行できてしまいました。
• 修正の遅れ: 脆弱性診断で「重大な欠陥」が見つかったものの、開発チームが機能追加を優先し、修正を後回しにしました。その間に実際の攻撃を受け、顧客データが漏洩する事故が発生しました。エシカルハッキングは「発見」だけでなく「修正」までセットで行う必要があります。

関連リンク

• CEH（認定ホワイトハッカー）
• OWASP Top 10 for LLM Applications