トレーニング > サイバーセキュリティ > Offensive AI Exploits and Security (LFWS320)
インストラクター主導のコース

Offensive AI Exploits and Security (LFWS320)

LLMアプリケーションは、既存のプレイブックでは対処できない新たな種類の脆弱性をもたらします。この実践的なコースでは、RAGプロンプトインジェクションからマルチエージェントパイプラインポイズニングまで、OWASP® Top 10に挙げられているLLMアプリケーション向けの10種類の攻撃クラスすべてを発見、悪用、修復するための専門的な攻撃知識を習得できます。

対象者

LLMを活用したアプリケーションに対する実践的な攻撃スキルを必要とする、侵入テスト担当者、レッドチームメンバー、セキュリティエンジニア、AI/MLエンジニア向け。また、既存のパイプラインにAIを統合するアプリケーションセキュリティおよびDevSecOpsの専門家にも役立ちます。
折りたたむ 続きを読む
学習内容

OWASP® Top 10 for LLM Applicationsに挙げられている10種類の脆弱性クラス(即時インジェクション、ガードバイパス、間接インジェクション、メモリポイズニング、マルチエージェントパイプラインポイズニングなど)すべてを悪用し、それらを修復するためのLLMネイティブな防御アーキテクチャを推奨します。
折りたたむ 続きを読む
身につく知識

LLM を活用したアプリケーションのセキュリティを評価、悪用、および助言する能力を示すことで、AIレッドチーム、LLM侵入テスト、およびAIセキュリティエンジニアリングの役割へとステップアップできます。
折りたたむ 続きを読む
おもなテーマ
すべて展開
すべて折りたたむ
はじめに&セットアップ
LLMアーキテクチャ(RAG、エージェント、マルチエージェント)、OWASP® Top 10、攻撃対象領域のマッピング。
直接即時注射
RAG攻撃、意味検索、データ抽出、デュアルLLM防御。
ガードバイパス
エンコードバイパス、同義語攻撃、多段階抽出、ガード強化。
IP/ヘッダーのなりすまし
X-Forwarded-For、LLM認証委任のリスク、コンテキストインジェクション。
エージェントツールの悪用
LangChain/LangGraphの悪用、コマンド実行、ツールのスコープ。
間接注入とSSRF
データと命令の境界、Webhook SSRF、サニタイズ。
マルチモーダル注入
視覚モデル攻撃、ステガノグラフィー、デュアルビジョンガード。
記憶毒
会話記憶の悪用、エスカレーションのなりすまし。
スキーマの混乱
関数呼び出しの濫用、パスの走査、ツールの曖昧さ。
カスタマーサポートAI
マルチエージェント ポイズニング
最終課題とまとめ

前提条件
  • ウェブアプリケーションのセキュリティ(HTTP、REST API、入力検証、インジェクション攻撃)に関する知識。
  • Burp SuiteやOWASP® ZAPなどのHTTP傍受ツールを使用した経験。
  • Pythonの読み書きレベルの習熟度、およびcurlまたはPythonリクエストを使用してAPIとやり取りする能力。
  • LLM、システム/ユーザープロンプトの構造、RAGの概念、および概念レベルでのLLMエージェントとツール呼び出しに関する基本的な知識。
実習について
  • すべてのラボはクラウド上でホストされており、すぐに利用可能です。学習者はノートパソコンを用意するだけで済みます。