|
所在平台: Udemy |
课程主页: https://www.udemy.com/course/sifirdan-llm-gelistirme-kendi-dil-modelini-olustur/
课程评论：没有评论
课程名称：零基础 LLM 开发：构建你自己的语言模型 课程概述： 这门课程是一份全面且注重实践的指南，适合所有想要学习大型语言模型（LLM）内部结构并从零开始构建自己模型的人。课程将使用 Python 和 PyTorch，从零开始构建一个现代 GPT 风格的 Transformer 模型。你将逐步实现所有核心组件，包括分词过程、嵌入层、自注意力机制和多头注意力。 课程内容亮点： * **Tokenization、Positional Encoding 和 Embedding：** 通过实际示例学习这些基础概念。 * **Transformer 模型构建：** 逐步搭建 Transformer 模块，构建一个工作的语言模型。 * **模型训练：** 针对下一个词预测任务训练模型。 * **Supervised Fine-Tuning (SFT)：** 使用 SFT 方法将模型适配到特定任务，如问答。 * **实践细节：** 涵盖数据准备、优化器和损失函数的使用、GPU 加速训练以及模型保存/加载等。 * **工具使用：** 有效利用 Colab 和 Hugging Face 等流行的开源工具。 目标受众： * 希望在人工智能领域深入发展的开发者。 * 数据科学家。 * 机器学习工程师。 课程目标： * 理解 LLM 的工作原理，而不仅仅是使用预训练模型。 * 掌握从头构建 LLM 的技术能力。 * 能够根据自身需求调整和改进模型。 * 课程结束时，你将能够构建一个从零开始训练的 GPT 模型，并将其集成到你自己的项目中。
Bu kurs, büyük dil modellerinin (LLM) iç yapısını öğrenmek ve kendi modelini sıfırdan geliştirmek isteyen herkes için kapsamlı ve uygulamalı bir rehberdir. Python ve PyTorch kullanarak, modern GPT tarzı bir Transformer modeli sıfırdan inşa edecek; tokenization sürecinden embedding katmanlarına, self-attention mekanizmasından multi-head attention'a kadar tüm temel bileşenleri adım adım gerçekleştireceksiniz.İlk olarak tokenizasyon, pozisyonel encoding ve embedding kavramlarını uygulamalı örneklerle öğrenecek, ardından Transformer bloklarını bir araya getirerek çalışan bir dil modeli geliştireceksiniz. Bu modeli next-token prediction görevi için eğitecek, ardından Supervised Fine-Tuning (SFT) yöntemlerini kullanarak soru-cevaplama gibi özel görevler için adapte edeceksiniz.Kurs boyunca veri hazırlama süreçlerinden optimizer ve loss fonksiyonlarının kullanımına, GPU destekli eğitimden model kayıt/yükleme işlemlerine kadar birçok pratik detaya değinilecektir. Colab ve Hugging Face gibi popüler açık kaynak araçlar da etkin şekilde kullanılacaktır.Bu kurs; yapay zeka alanında derinleşmek isteyen geliştiriciler, veri bilimciler ve makine öğrenimi mühendisleri için özel olarak tasarlanmıştır. Amacımız, sadece hazır modelleri kullanmak değil, bu modellerin nasıl çalıştığını anlamak, onları inşa etmek ve gerektiğinde geliştirebilecek teknik beceriyi kazandırmaktır.Kurs sonunda, sıfırdan eğitilmiş bir GPT modeli oluşturmuş olacak ve onu kendi projelerinize entegre edebileceksiniz. Bu süreç, yalnızca bir modeli çalıştırmakla kalmayıp, aynı zamanda mimarisini anlamanızı, ihtiyaçlarınıza göre uyarlamanızı ve ince ayarlarla performansını artırmanızı mümkün kılacaktır.
