|
所在平台: Udemy |
课程主页: https://www.udemy.com/course/aiowasp-llm-top-10-2025ai/
课程评论：没有评论
课程名称：【开发者必备：生成式AI安全】学习OWASP LLM Top 10 2025，掌握最新生成式AI安全! 课程概述： 本课程专为开发者设计，深入探讨生成式AI（Generative AI）及集成生成式AI系统的安全性。随着生成式AI服务的飞速发展，开发者们越来越倾向于将生成式AI轻松集成到现有系统或开发全新系统。然而，这也催生了新的攻击方式，如提示注入（Prompt Injection）和模型污染（Model Poisoning）。本课程将以OWASP LLM Top 10 2025为蓝本，帮助您理解和应对这些针对生成式AI特有的安全威胁。 学习目标： 1. **理解生成式AI及集成系统的攻击方式**：识别针对生成式AI及其集成系统的各种攻击手段。 2. **掌握攻击影响与缓解策略**：理解各类攻击的潜在危害，并学习有效的缓解措施。 3. **通过OWASP LLM Top 10 2025学习最新攻击案例**：深入了解OWASP LLM Top 10 2025列出的最新攻击形式及其具体实践案例。 通过本课程的学习，您将能够： * **应对提示注入等新威胁**：理解提示注入的攻击机制、对系统的影响及相应的缓解方法，从而开发更安全的生成式AI系统。 * **分析具体的攻击场景**：通过OWASP LLM Top 10 2025中的十大风险，结合实例深入解析攻击方式，但重点在于学习如何实施缓解措施，而非学习如何攻击。 * **制定风险缓解措施**：认识到攻击的要点和场景后，聚焦于实际的风险缓解。例如，针对提示注入，将详细讲解输入提示的验证、编码方法，以及对生成式AI输出内容的验证。课程将结合OWASP ASVS和OWASP Cheat Sheet Series等OWASP项目，提供实用的缓解策略。 课程内容： * LLM01:2025 提示注入（Prompt Injection） * LLM02:2025 敏感信息泄露（Sensitive Information Disclosure） * LLM03:2025 供应链风险（Supply Chain Risks） * LLM04:2025 数据与模型污染（Data and Model Poisoning） * LLM05:2025 不当输出验证（Insecure Output Handling） * LLM06:2025 过度授权（Excessive Agency） * LLM07:2025 系统提示泄露（System Prompt Leakage） * LLM08:2025 向量数据与嵌入模型弱点（Vector Data and Embedding Model Vulnerabilities） * LLM09:2025 虚假信息（Misinformation） * LLM10:2025 无限制消费（Unrestricted Consumption） * OWASP LLM Top 10 缓解策略 立即加入本课程，开始构建安全的生成式AI应用！
このコースでは、生成AIや生成AIを組み込んだシステムのセキュリティについて学びます。生成AIの分野では、様々なサービスが発展しており、従来のシステムに簡単に生成AIを組み合わせたり、新しく生成AIを組み込んだシステムを開発したり、今までシステム開発に携わっていた開発者が、生成AIを組み込んだシステムを開発するケースが増えています。それに伴い、プロンプトインジェクション、モデルの汚染といった新たな攻撃方法がでてきました。従来までのシステムにあった攻撃方法に加えて、生成AI特有の攻撃方法です。この講座では、OWASP LLM Top 10 2025を使って、最新の生成AIや生成AIを組み込んだシステム特有のセキュリティを学びます。概要生成AIや生成AIを組み込んだシステムへの攻撃を理解するまた、この攻撃による影響とその緩和策を理解するOWASP LLM Top 10 2025を使い最新の攻撃やその事例を学ぶ上記の点を理解することで、生成AIのセキュリティに取り組み始めましょう。本コースが目指すこと・生成AIや生成AIを組み込んだシステムには、どんな攻撃があるのか？プロンプトインジェクションは、生成AIを狙った新たな攻撃です。プロンプトインジェクション攻撃のメカニズムや攻撃をされたときにシステムのどの部分に影響するのか？その緩和策は、どんなものがあるのか？これらのことを理解した上で、安全な生成AIおよび生成AIを組み込んだシステムを開発できるようになることを目指します。・具体的な攻撃のシナリオを解説OWASP LLM Top 10 2025は、生成AIおよび生成AIを組み込んだシステムに対する攻撃やリスクの上位10個です。この10個について、事例を交えながら具体的に説明しますが、攻撃する方法を学ぶのではなく、攻撃を緩和する緩和策を実施できることを目指します。・リスク軽減するために実施すること狙われるポイント、シナリオを理解したら、最後にリスクを緩和すること焦点をあてて解説します。例えば、プロンプトインジェクションであれば、入力されたプロンプトの検証やエンコード方法、さらに生成AIが出力した内容の検証についても解説します。OWASPのプロジェクトであるOWASP ASVSやOWASP Cheat Sheet Seriesを活用しながら、緩和策を解説していきます。コンテンツLLM01:2025 プロンプトインジェクションLLM02:2025 機密情報の漏えいLLM03:2025 サプライチェーンリスクLLM04:2025 データとモデルの汚染LLM05:2025 不適切な出力検証LLM06:2025 過剰な権限付与LLM07:2025 システムプロンプトの漏えいLLM08:2025 ベクトルデータと埋め込みモデルの弱点LLM09:2025 誤った情報LLM10:2025 無制限の消費OWASP LLM Top 10 の緩和策
