はじめに＆セットアップ
LLMアプリケーションは、既存のプレイブックでは対処できない新たな種類の脆弱性をもたらします。この実践的なコースでは、RAGプロンプトインジェクションからマルチエージェントパイプラインポイズニングまで、OWASP® Top 10に挙げられているLLMアプリケーション向けの10種類の攻撃クラスすべてを発見、悪用、修復するための専門的な攻撃知識を習得できます。.
インストラクター主導のコース
攻撃型AIの悪用とセキュリティ（LFWS320）
対象者
LLM（論理レベル管理）を活用したアプリケーションに対する実践的な攻撃スキルを必要とする、侵入テスト担当者、レッドチームメンバー、セキュリティエンジニア、AI/MLエンジニア向け。また、既存のパイプラインにAIを統合するアプリケーションセキュリティおよびDevSecOpsの専門家にも役立ちます。.
折りたたむ
続きを読む
学習内容
OWASP® Top 10 for LLM Applicationsに挙げられている10種類の脆弱性クラス（即時インジェクション、ガードバイパス、間接インジェクション、メモリポイズニング、マルチエージェントパイプラインポイズニングなど）すべてを悪用し、それらを修復するためのLLMネイティブな防御アーキテクチャを推奨します。.
折りたたむ
続きを読む
身につく知識
LLM（論理論理モデル）を活用したアプリケーションのセキュリティを評価、悪用、および助言する能力を示すことで、AIレッドチーム、LLM侵入テスト、およびAIセキュリティエンジニアリングの役割へとステップアップできます。.
折りたたむ
続きを読む
はじめに＆セットアップ
直接即時注射
ガードバイパス
IP/ヘッダーのなりすまし
エージェントツールの悪用
間接注入とSSRF
マルチモーダル注入
記憶毒
スキーマの混乱
カスタマーサポートAI
多剤中毒
最終課題とまとめ
前提条件
- ウェブアプリケーションのセキュリティ（HTTP、REST API、入力検証、インジェクション攻撃）に関する知識。.
- Burp SuiteやOWASP® ZAPなどのHTTP傍受ツールを使用した経験。.
- Pythonの読み書きレベルの習熟度、およびcurlまたはPythonリクエストを使用してAPIとやり取りする能力。.
- LLM、システム/ユーザープロンプトの構造、RAGの概念、および概念レベルでのLLMエージェントとツール呼び出しに関する基本的な知識。.
実習について
- すべてのラボはクラウド上でホストされており、すぐに利用可能です。学習者はノートパソコンさえあれば大丈夫です。.
