rohitg00/ai-engineering-from-scratch — 从零开始 AI 工程：学习、构建、交付（9.7k ⭐，今日 +765）

rohitg00/ai-engineering-from-scratch — 从零开始 AI 工程

GitHub: https://github.com/rohitg00/ai-engineering-from-scratch Stars: 9,657 ⭐（今日 +765 🔥） 作者: Rohit Ghumare（agentmemory 同一作者） 口号: "Learn it. Build it. Ship it for others."

项目理念

"AI 工程"不等于"AI 研究"

AI 工程师的核心价值不在于推导数学公式，而在于：

• 将 AI 能力可靠地集成到生产系统
• 设计健壮的数据管道和评估框架
• 理解并管理 LLM 在生产环境中的不确定性
• 快速迭代，持续交付真实价值

这门课就是为这样的工程师设计的。

课程模块

Module 1: LLM 基础工程

• Transformer 架构的工程师视角（不推公式，看代码）
• Tokenization 实现与优化
• Prompt 工程的系统化方法
• 上下文窗口管理策略

Module 2: RAG 系统构建

• 向量数据库选型（Chroma、Qdrant、Pinecone）
• Embedding 模型评估与选择
• 检索策略：稠密检索 vs 稀疏检索 vs 混合
• RAG 评估框架（RAGAS）实战

Module 3: Agent 系统开发

• 工具调用的可靠实现
• 多步骤任务规划与执行
• Agent 状态管理与持久化
• 错误处理与重试策略

Module 4: 生产部署

• LLM 推理优化（量化、批处理、缓存）
• 监控与可观测性（延迟、Token 消耗、质量指标）
• 成本优化策略
• A/B 测试与评估体系

Module 5: 实战项目

• 构建完整的 AI 产品（从 idea 到上线）
• 代码审查：工业级 vs 玩具级 AI 系统的区别
• 常见生产事故复盘与预防

与其他 AI 课程的区别

快速开始

git clone https://github.com/rohitg00/ai-engineering-from-scratch
# 从 01-llm-foundations/ 开始
# 每个模块都有独立可运行的环境