|
所在平台: Udemy |
课程主页: https://www.udemy.com/course/open-source-llms-unzensierte-sichere-ki-lokal-auf-dem-pc/
课程评论：没有评论
本课程深入探讨了开源大型语言模型（LLM）在个人电脑上的本地部署和应用，旨在为学习者提供一个不受限制且安全的AI体验，区别于ChatGPT等闭源模型可能存在的审查、数据安全和隐私问题。 **课程核心内容概览：** * **开源LLM介绍：** * 对比开源与闭源模型（如ChatGPT、Llama、Mistral），阐述开源模型的优势（如Llama3, Mistral, Falkon, Phi3, Command R+）。 * 分析闭源模型的潜在不足，以及开源模型（如Llama3, Mistral）的优缺点。 * 介绍市面上存在的各类LLM，并指导如何选择最适合需求的模型。 * **开源LLM的实践应用：** * 详细介绍如何在本地PC上安装和运行开源LLM，特别是LM Studio。 * 演示如何在LM Studio中使用开源模型，并区分有无审查的模型。 * 探索LLM的各种应用场景。 * 学习使用Huggingface或Google Colab进行模型的微调（finetuning）。 * 介绍Vision模型在图像识别方面的应用。 * **Prompt Engineering与云端部署：** * 教授针对开源LLM的Prompt Engineering技巧，包括使用HuggingChat作为界面、系统提示（System Prompts）的应用，以及基础和高级Prompt Engineering技术。 * 指导如何在HuggingChat中创建自定义助手。 * 探讨使用LPU芯片替代GPU在本地运行LLM的可能性。 * **Function Calling, RAG与向量数据库：** * 解释LLM中的Function Calling功能。 * 学习如何实现向量数据库、Embedding模型和检索增强生成（RAG）。 * 演示如何安装Anything LLM，设置本地服务器，并利用Anything LLM和LM Studio构建RAG聊天机器人。 * 通过Llama 3和Anything LLM实践Function Calling，并学习如何使用Python进行数据汇总、存储和可视化。 * **优化与AIAgent：** * 提供优化RAG应用的数据准备和工具使用建议（如LlamaIndex, LlamaParse）。 * 介绍AIAgent的概念、可用工具，以及如何在本地使用Node.js安装和运行Flowise。 * 通过实例学习创建能够生成Python代码和文档的AIAgent，并利用Function Calling和互联网访问功能。 * **其他应用与进阶技巧：** * 在Google Colab中实现文本转语音（Text-to-Speech, TTS）。 * 利用Google Colab进行开源LLM的微调。 * 介绍在本地PC性能不足时，如何租用Runpod或Massed Compute等平台的GPU资源。 * 探索Microsoft Autogen和CrewAI等创新工具。 * 学习使用LangChain进行AIAgent的开发。 课程旨在帮助学习者掌握开源LLM技术，构建创新的解决方案，并扩展对大语言模型多样化应用的理解，最终目标是培养学员成为大型语言模型领域的专家。
ChatGPT ist gut und recht. Aber ist dir schon mal aufgefallen, dass es sehr viele Zensuren gibt, man in politische Richtungen gedrückt wird, teilweise harmlose Fragen nicht beantwortet werden und dass unsere Daten bei OpenAI eventuell nicht sicher sind? Genau hier können Open-Source LLMs wie Llama3, Mistral, Grok, Falkon, Phi3 und Command R+ helfen!Bist du bereit, die Feinheiten von Open-Source LLMs zu meistern und ihr volles Potenzial für verschiedene Anwendungen zu nutzen, von Datenanalyse bis zur Erstellung von Chatbots und KI-Agenten? Dann ist dieser Kurs für dich!Einführung in Open-Source LLMsDieser Kurs bietet eine umfassende Einführung in die Welt der Open-Source LLMs. Du lernst die Unterschiede zwischen Open-Source und Closed-Source Modellen kennen und erfährst, warum Open-Source LLMs eine attraktive Alternative darstellen. Themen wie ChatGPT, Llama, und Mistral werden ausführlich behandelt. Außerdem wirst du lernen, welche LLMs es gibt und wie du die besten Modelle für deine Bedürfnisse auswählst. Ein besonderes Augenmerk liegt auf den Nachteilen von Closed-Source LLMs und den Vor- und Nachteilen von Open-Source LLMs wie Llama3 und Mistral.Praktische Anwendung von Open-Source LLMsDer Kurs zeigt dir den einfachsten Weg, Open-Source LLMs lokal auszuführen und was du dafür benötigst. Du erfährst alles über die Voraussetzungen, die Installation von LM Studio und alternative Methoden zum Betrieb von LLMs. Zudem wirst du lernen, wie du Open-Source-Modelle in LM Studio nutzt, den Unterschied zwischen zensierten und unzensierten LLMs verstehst und verschiedene Anwendungszwecke erkundest. Auch das Finetuning eines Open-Source-Modells mit Huggingface oder Google Colab sowie die Nutzung von Vision-Modellen zur Bilderkennung werden behandelt.Prompt Engineering und Cloud-EinsatzEin wichtiger Teil des Kurses ist das Prompt Engineering für Open-Source LLMs. Du wirst lernen, wie du HuggingChat als Interface nutzt, Systemprompts im Prompt Engineering einsetzt und grundlegende sowie fortgeschrittene Techniken des Prompt Engineerings anwendest. Der Kurs bietet dir auch Einblicke in die Erstellung eigener Assistenten in HuggingChat und die Nutzung von Open-Source LLMs mit schnellen LPU-Chips statt GPUs.Function Calling, RAG und VektordatenbankenErfahre, was Function Calling bei LLMs ist und wie du Vektordatenbanken, Embedding-Modelle und Retrieval-Augmented Generation (RAG) implementierst. Der Kurs zeigt dir, wie du Anything LLM installierst, einen lokalen Server einrichtest und einen RAG-Chatbot mit Anything LLM und LM Studio erstellst. Du wirst auch lernen, Function Calling mit Llama 3 und Anything LLM durchzuführen und Daten zusammenzufassen, zu speichern und mit Python zu visualisieren.Optimierung und KI-AgentenFür die Optimierung deiner RAG-Apps erhältst du Tipps zur Datenvorbereitung und effizienten Nutzung von Tools wie LlamaIndex und LlamaParse. Darüber hinaus wirst du in die Welt der KI-Agenten eingeführt. Du lernst, was KI-Agenten sind, welche Tools zur Verfügung stehen und wie du Flowise lokal mit Node.js installierst und nutzt. Der Kurs bietet dir auch praktische Einblicke in die Erstellung eines KI-Agenten, der Python-Code und Dokumentationen erstellt, sowie die Nutzung von Function Calling und Internetzugriff.Weitere Anwendungen und TippsAbschließend bietet der Kurs eine Einführung in Text-to-Speech (TTS) mit Google Colab und das Finetuning von Open-Source LLMs mit Google Colab. Du erfährst, wie du GPUs bei Anbietern wie Runpod oder Massed Compute mietest, wenn dein lokaler PC nicht ausreicht. Zudem lernst du innovative Werkzeuge wie Microsoft Autogen und CrewAI kennen und wie du LangChain für die Entwicklung von KI-Agenten nutzt.Nutze die transformative Kraft der Open-Source LLM-Technologie, um innovative Lösungen zu entwickeln und dein Verständnis ihrer vielfältigen Anwendungen zu erweitern. Melde dich noch heute an und beginne deine Reise, ein Experte in der Welt der großen Sprachmodelle zu werden!
