GitHub 热门
共 3 个项目 · 第 1 / 1 页
rasbt / LLMs-from-scratch 训练微调 Jupyter Notebook
用 PyTorch 从零实现类 ChatGPT 大模型的配套教学代码
这是配套 Manning 出版社书籍《Build a Large Language Model (From Scratch)》的代码仓库,用 PyTorch 从零一步步实现一个类 ChatGPT 的大模型。它不是拿来即用的工具,而是一套教学代码,覆盖从文本分词、注意力机制、GPT 架构搭建,到无监督预训练、文本分类微调、指令微调的完整链路,还附带 LoRA 参数高效微调的示例。每章都有 Jupyter Notebook 和练习解答,读者可以亲手跑通一个小模型的训练与生成过程,理解 Transformer 内部到底在算什么。适合算法工程师、NLP 方向学生、以及想搞懂 LLM 底层原理而非只会调 API 的从业者;如果你只是想部署模型或做应用开发,这个仓库和你的日常工作关系不大。
★ 107k 24h +39 ⑂ 16k 创建 2023-07-23 更新 7 小时前
microsoft / AI-For-Beginners 训练微调 Jupyter Notebook
Microsoft 官方 12 周 AI 入门课程,含代码与测验
这是 Microsoft 官方出品的 AI 入门课程,相当于一套免费的「AI 通识教材」:12 周、24 节课,从符号AI、知识表示讲到神经网络、深度学习,覆盖 CNN、RNN、GAN 等常见架构,代码示例同时用 TensorFlow 和 PyTorch 演示,还包含测验、实验和 AI 伦理内容。它适合两类人:一是想系统补课的后端、前端或运维工程师,可以用它搞懂 Transformer、扩散模型这些天天听到但没动手过的概念;二是需要给团队或学生做 AI 培训的人,课程结构完整、有现成的讲义和习题,直接拿来当教学材料即可。课程已翻译成包括简体中文在内的 50 多种语言。如果你已经在做模型训练或 Agent 开发,这个项目的深度可能不够,翻一下即可。
★ 70k 24h +21 ⑂ 13k 创建 2021-03-03 更新 14 小时前
microsoft / ML-For-Beginners 训练微调 Jupyter Notebook
Microsoft 经典机器学习入门课程,26 课带翻译
这是 Microsoft 出品的机器学习入门课程,12 周 26 课,用 Scikit-learn 讲经典机器学习,刻意避开深度学习,适合零基础系统入门。课程以世界文化数据为素材,每课配课前课后测验、讲解、作业和参考答案,边做项目边学,还提供 50 多种语言翻译,包括简体中文。它适合想转行数据分析、算法岗的新人,或需要给团队做 ML 培训的工程师,用碎片时间补基础;如果你已熟悉深度学习或大模型,这套经典 ML 内容与日常工作关系不大。
★ 92k 24h +13 ⑂ 22k 创建 2021-03-03 更新 2 小时前