Top AI Repos — open-source AI, indexed and scored
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
《大模型与智能体》电子书与 6 个编程任务：Transformer、mini-GPT、SFT/DPO、RAG、工具调用与编程智能体。
| Date | Stars |
|---|---|
| 2026-08-02 | 6595 |
| 2026-08-12 | 6641 |
| 2026-08-18 | 6664 |
| 2026-08-19 | 6661 |
| 2026-08-20 | 6664 |
| 2026-08-21 | 6666 |
| 2026-08-22 | 6667 |
| 2026-08-23 | 6671 |
| 2026-08-24 | 6675 |
| 2026-08-25 | 6677 |
| 2026-08-26 | 6680 |
| 2026-08-27 | 6681 |
| 2026-08-28 | 6684 |
| 2026-08-29 | 6687 |
| 2026-08-30 | 6686 |
| 2026-08-31 | 6689 |
| 2026-09-01 | 6694 |
| 2026-09-02 | 6698 |
| 2026-09-03 | 6704 |
| 2026-09-04 | 6706 |
| 2026-09-05 | 6713 |
| 2026-09-06 | 6719 |
| 2026-09-07 | 6722 |
| 2026-09-09 | 6729 |
| 2026-09-10 | 6734 |
| 2026-09-11 | 6737 |
| 2026-09-12 | 6739 |
| 2026-09-13 | 6738 |
| 2026-09-14 | 6744 |
| 2026-09-15 | 6745 |
| 2026-09-16 | 6752 |
| 2026-09-17 | 6758 |
| 2026-09-18 | 6761 |
| 2026-09-19 | 6763 |
| 2026-09-20 | 6768 |
| 2026-09-21 | 6770 |
| 2026-09-22 | 6771 |
| 2026-09-23 | 6775 |
| 2026-09-25 | 6774 |
| 2026-09-26 | 6779 |
| 2026-09-27 | 6781 |
| 2026-09-28 | 6782 |
| 2026-09-29 | 6788 |
| 2026-09-30 | 6793 |
| 2026-10-01 | 6794 |
| 2026-10-03 | 6793 |
| 2026-10-04 | 6795 |
| 2026-10-05 | 6794 |
| 2026-10-06 | 6796 |
| 2026-10-08 | 6795 |
| 2026-10-09 | 6797 |
| 2026-10-10 | 6799 |
| 2026-10-12 | 6802 |
| 2026-10-13 | 6807 |
| 2026-10-14 | 6815 |
| 2026-10-15 | 6818 |
| 2026-10-16 | 6820 |
| 2026-10-17 | 6822 |
| 2026-10-18 | 6823 |
| 2026-10-19 | 6830 |
| 2026-10-20 | 6834 |
| 2026-10-21 | 6836 |
| 2026-10-23 | 6835 |
| 2026-10-24 | 6836 |
| 2026-10-25 | 6838 |
| 2026-10-26 | 6840 |
| 2026-10-27 | 6843 |
| 2026-10-28 | 6846 |
| 2026-10-29 | 6849 |
| 2026-10-30 | 6848 |
| 2026-10-31 | 6850 |
| 2026-11-01 | 6851 |
| 2026-11-02 | 6856 |
| 2026-11-03 | 6858 |
| 2026-11-04 | 6858 |
Today
— stars today
This week
+12 stars this week
This month
+64 stars this month
Momentum
12.0
growth rate 0.18%/day
# 大模型与智能体 · LLM-Beginner
**《大模型与智能体》电子书与 6 个循序渐进的编程任务**
[本书介绍](https://nndl.ai/llm-agent/) · [下载 PDF](https://github.com/nndl/llm-beginner/releases/download/book-pdf/llm-agent.pdf) · [六个任务](#六个编程任务) · [环境与自检](#环境与自检) · [问题反馈](https://github.com/nndl/llm-beginner/issues)
<table>
<tr>
<td width="30%" align="center" valign="top"><a href="https://nndl.ai/llm-agent/"><img src="assets/covers/lma-cover-small.webp" width="160" alt="《大模型与智能体》封面"></a></td>
<td width="70%" valign="top">
<h3>大模型与智能体</h3>
<p>邱锡鹏著。从神经网络与 Transformer 出发，讲解大模型如何训练、如何与人对齐，以及如何借助工具、记忆与规划构建智能体。</p>
<p>全书 17 章，分为共用基础、大模型、智能体、边界与未来四个部分，涵盖原理、系统构建、应用与治理。</p>
<p><strong>阅读入口：</strong><a href="https://github.com/nndl/llm-beginner/releases/download/book-pdf/llm-agent.pdf">出版前电子稿</a> · <a href="https://nndl.ai/llm-agent/">完整章节目录</a></p>
</td>
</tr>
</table>
读书可以先从上方 PDF 开始；想动手实践，可从下方任务一开始。**书与练习可独立学习，练习需要 Python 与深度学习基础**，无需先完成系列其他教材。书稿处于出版筹备阶段，内容随修订更新。
## 六个编程任务
LLM-Beginner 由 [NLP-Beginner](legacy/README.md)重构而来，沿着 Transformer → mini-GPT → 微调与对齐 → RAG → 工具调用 → 编程智能体逐步推进。每项任务先实现关键组件，再对照框架，并用自检脚本检查结果。
| 任务与入口 | 你将完成什么 | 建议用时 |
|---|---|---|
| 1 · [熟悉 Transformer](task-1-transformer/) | 手写注意力与 Transformer，用中文分类任务观察注意力权重 | 2 周 |
| 2 · [从零实现 mini-GPT](task-2-mini-gpt/) | 训练小型语言模型，实现分词、RoPE、KV Cache 与采样 | 3 周 |
| 3 · [指令微调与偏好对齐](task-3-sft-dpo/) | 手写 LoRA，完成 SFT 与 DPO，对比微调效果 | 2—3 周 |
| 4 · [RAG 文档问答](task-4-rag/) | 构建检索、重排与生成流程，并评测问答质量 | 2 周 |
| 5 · [工具调用 Agent](task-5-tool-agent/) | 实现 ReAct 循环、工具调用与错误恢复 | 2 周 |
| 6 · [Mini Coding Agent](task-6-coding-agent/) | 构建能修改代码、运行测试并迭代的编程智能体 | 5—6 周 |
用时是学习节奏建议，可按基础与实验规模调整。各目录提供实现要求、数据脚本、接口约定与自检，**实现代码由学习者在 `src/` 中完成**。已有基础时可以选做，所需前置能力见各任务说明。
## 通用说明
- **设备**：各任务的资源需求见对应 README。显存占用随模型、精度、序列长度与批量大小变化，可先用小规模配置跑通流程。
- **模型生态**：通义千问 Qwen 系列贯穿全程，下载入口与可选来源见各任务的数据脚本。
- **语言**：以中文为主，仅在英文数据显著更好时使用英文（如部分小模型预训练语料）。
- **教学路线**：每项任务先手写、再对照框架——先吃透原理，再看工程上怎么封装。
## 环境与自检
六个任务目录结构一致：每个任务下都有 `requirements.txt`（依赖）、`data/download.py`（下载数据 / 模型）、`eval/run.py`（自检脚本）和 `eval/tutor_prompt.md`（贴给大模型做代码 review 的提示词）。你的实现写在各任务的 `src/` 下，按该任务 README「实现约定」表里列出的类 / 函数签名导出——自检脚本正是按这些签名导入并评测你的代码，照着写才能被正确评分。
### 环境准备
- **Python**：3.10+（推荐 3.11 / 3.12）。
- **按任务装依赖**（各任务相互独立，可共用一个环境，也可每个任务单独建 venv / conda）：
```bash
pip install -r task-1-transformer/requirements.txt
```
- **国内下载加速**：Hugging Face 访问不稳时先设镜像再下载（download 脚本在缺失时也会提示）：
```bash
export HF_ENDPOINT=https://hf-mirror.com
# Windows PowerShell：$env:HF_ENDPOINT = "https://hf-mirror.com"
```
完全无法访问 HF 时，多数数据 / 模型可改用 ModelScope（见各 `download.py` 末尾提示）。
### 标准流程（以任务一为例）
```bash
cd task-1-transformer
python data/download.py # 1. 下载数据 / 模型（命令见下表，部分任务带参数）
# 2. 在 src/ 下写好你的实现（见本任务 README「实现约定」）
python eval/run.py # 3. 跑自检，结果写入 eval/result.json
```
> ⚠️ 请在仓库内运行 `eval/run.py`：它依赖仓库根目录的 `_eval_harness.py`（六个任务共用的运行壳）。把单个任务目录拷到仓库外会导致自检无法 import。
<details>
<summary>各任务的下载命令与数据说明</summary>
### 各任务的下载命令
| 任务 | 下载命令（在任务目录下执行） | 说明 |
|---|---|---|
| 一 Transformer | `python data/download.py` | ChnSentiCorp 中文情感分类 |
| 二 mini-GPT | `python data/download.py [--dataset poetry\|tinystories\|skypile]` | 默认 `poetry`（唐诗，quick-start） |
| 三 SFT/DPO | `python data/download.py` | 下载 Qwen2.5-0.5B，并提示 MOSS / DPO 数据获取方式 |
| 四 RAG | `python data/download.py [--skip-models]` | BGE 模型 + NNDL PDF + 校验 gold_qa；`--skip-models` 只下 PDF 并校验 |
| 五 工具 Agent | `python data/download.py` | 生成 10 题任务集与检索夹具，并打印模型部署提示 |
| 六 Coding Agent | `python data/download.py [--with-swebench]` | 生成本地 toy-repo；`--with-swebench` 额外下载 SWE-bench Lite 抽样元数据 |
</details>
### 看懂自检结果
`eval/run.py` 逐项打印，并把结构化结果写入 `eval/result.json`（始终 UTF-8，可附在提交里）。每项有三种状态：
- **[通过]**：该项契约满足。
- **[跳过]**：前置条件还没就绪（如模型 / `ckpt` / 数据缺失），**不是错误**——补齐后重跑即可。
- **[失败]**：实现与预期不符，结果里带 `error` 或具体指标，照着修。
自检只验证关键契约（如 attention 数值正确性、召回率、任务成功率），是“能不能跑对”的下限检查，不替代你自己跑各任务 README「实验」里的对比与消融。Windows 控制台中文乱码已由脚本自动处理（`sys.stdout.reconfigure`），无需额外设置。
### 找大模型帮你 review
每个任务的 `eval/tutor_prompt.md` 是一段可直接复制的提示词：连同Excerpt of 14,016 characters
Read on GitHubWould you bet a product on this? Bounded 0–100 and slow moving.
matched fp:5b15bfec30f5e579, topic:llm
