Top AI Repos — open-source AI, indexed and scored
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
动手学Ollama，CPU玩转大模型部署，在线阅读地址：https://datawhalechina.github.io/handy-ollama/
| Date | Stars |
|---|---|
| 2026-07-24 | 2474 |
| 2026-07-25 | 2475 |
| 2026-07-28 | 2475 |
| 2026-07-30 | 2475 |
| 2026-07-31 | 2482 |
| 2026-08-02 | 2484 |
| 2026-08-03 | 2485 |
| 2026-08-04 | 2486 |
| 2026-08-05 | 2486 |
| 2026-08-06 | 2488 |
Today
+2 stars today
This week
+13 stars this week
This month
— stars this month
Momentum
0.0
growth rate 0.53%/day
<div align='center'>
<img src="./images/header.svg" alt="alt text" width="100%">
<h1>💻 handy-ollama 🦙 (🧪Beta公测版)</h1>
</div>
<div align="center">
<img src="https://img.shields.io/github/stars/datawhalechina/handy-ollama?style=flat&logo=github" alt="GitHub stars"/>
<img src="https://img.shields.io/github/forks/datawhalechina/handy-ollama?style=flat&logo=github" alt="GitHub forks"/>
<img src="https://img.shields.io/github/issues/datawhalechina/handy-ollama?style=flat&logo=github" alt="GitHub issues"/>
<img src="https://img.shields.io/badge/license-CC%20BY--NC--SA%204.0-brighgreen?style=flat&logo=github" alt="GitHub license"/>
<a href="https://datawhalechina.github.io/handy-ollama/"><img src="https://img.shields.io/badge/在线阅读-Online%20Reading-green?style=flat&logo=gitbook" alt="Online Reading"></a>
</div>
<div align="center">
<h3>📚 从零开始实现 CPU 玩转大模型部署！</h3>
<p><em>动手学 Ollama，快速实现大模型本地部署</em></p>
</div>
简体中文 | [English](README_en.md)
> [!WARNING]
> 🧪 Beta 公测版本提示：教程主体已完成，正在优化细节，欢迎大家提 Issue 反馈问题或建议。
## 🎉官方收录
**2025.11.06，本项目被 Ollama 官方仓库收录，且是目前唯一的 Tutorial：https://github.com/ollama/ollama#tutorial**
## 🚀 项目简介
动手学 Ollama 教程，轻松上手实现大模型本地化部署，快速在本地管理以及运行大模型，让 CPU 也可以玩转大模型推理部署！
本教程涵盖从基础入门到进阶使用的全方位内容，并通过实际应用案例深入理解和掌握大模型部署以及应用技术。我们的教程提供清晰的步骤和实用的技巧，无论是刚刚接触大模型部署的小白，还是有一定经验的开发者，都可以从零开始学习 Ollama ，实现本地部署大模型以及相关应用。
本项目主要内容：
1. Ollama 介绍、安装和配置，包括在 macOS、Windows、Linux 和 Docker 下的安装与配置；
2. Ollama 自定义导入模型，包括从 GGUF 导入、从 Pytorch 或 Safetensors 导入、由模型直接导入、自定义 Prompt；
3. Ollama REST API，包括 Ollama API 使用指南、在 Python、Java、JavaScript 和 C++ 等语言中使用 Ollama API；
4. Ollama 在 LangChain 中的使用，包括在 Python 和 JavaScript 中的集成；
5. Ollama 可视化界面部署和应用案例，包括使用 FastAPI 和 WebUI 部署可视化对话界面，以及本地 RAG 应用、Agent 应用等。
**热忱欢迎感兴趣的同学或者开发者们 提出 issue 或者 提交 pull request，让我们一起完善这个项目！**
**我们坚信：每一位对大模型充满热情的学习者，都应该有机会探索和实践。无论你的编程语言背景如何，无论你的计算资源如何，我们都希望能帮助你使用个人 PC 实现大模型部署。 让我们携手打破技术壁垒，共同开启 LLM 探索之旅！**
目录结构说明：
docs ---------------------- Markdown 文档文件
notebook ------------------ Notebook 源代码文件以及部分 Python、Java 和 JavaScript 源文件
images -------------------- 图片
📖 在线阅读：https://datawhalechina.github.io/handy-ollama/
## 💡 立项理由
随着大模型的飞速发展，市面上出现了越来越多的开源大模型，但是许多模型的部署需要利用 GPU 资源，如何让大模型时代的红利普惠到每一个人，让每一个人都可以部署属于自己的大模型。Ollama 是一个开源的大语言部署服务工具，只需 CPU 即可部署大模型。我们希望通过动手学 Ollama 这一开源教程，帮助学习者快速上手 Ollama ，让每一位大模型爱好者、学习者以及开发者都能在本地部署自己的大模型，进而开发一些大模型应用，让大模型赋能千行百业！
## 🎯 项目受众
- 希望不受 GPU 资源限制，在本地运行大模型；
- 希望在消费级硬件上进行大模型有效的推理；
- 希望在本地部署大模型，开发大模型应用；
- 希望在本地管理大模型，让本地模型安全可靠。
## ✨ 项目亮点
本项目旨在使用 CPU 部署本地大模型，虽然目前已经有很多 LLM 相关的教程，但是这些教程中模型基本上都需要 GPU 资源，这对于很多资源受限的学习者不是很友好。因此，本项目通过动手学 Ollama ，帮助学习者快速上手本地 CPU 部署大模型。
## 📖 内容导航
| 章节 | 关键内容 | 状态 |
|------------------------------------------------------------------------------------------------------|---------------------------|-----|
| <strong>第一章 Ollama 介绍</strong> | | |
| [1.1 Ollama 介绍](docs/C1/1.%20Ollama%20介绍.md) | 基础概念、核心特性 | ✅ |
| <strong>第二章 Ollama 安装与配置</strong> | | ✅ |
| [2.1 macOS 安装与配置](docs/C2/1.%20Ollama%20在%20macOS%20下的安装与配置.md) | macOS 安装、配置 | ✅ |
| [2.2 Windows 安装与配置](docs/C2/2.%20Ollama%20在%20Windows%20下的安装与配置.md) | Windows 安装、配置 | ✅ |
| [2.3 Linux 安装与配置](docs/C2/3.%20Ollama%20在%20Linux%20下的安装与配置.md) | Linux 安装、配置 | ✅ |
| [2.4 Docker 安装与配置](docs/C2/4.%20Ollama%20在%20Docker%20下的安装与配置.md) | Docker 安装、配置 | ✅ |
| <strong>第三章 自定义使用 Ollama</strong> | 个性化使用 Excerpt of 9,480 characters
Read on GitHub
Youdon · Southeast University · China
182
50
11
11
10
Tianao Lou
6
3
3
Xinmin Zeng
2
Shufan Jiang · @eigent-ai · China
2
2
2
1
:)s · China
1
1
Would you bet a product on this? Bounded 0–100 and slow moving.
matched fp:9838e5197ce199a4, topic:large-language-models, topic:llm
matched fp:9838e5197ce199a4, topic:rag, topic:llamaindex
matched fp:9838e5197ce199a4, topic:tutorial, readme:tutorial