Top AI Repos — open-source AI, indexed and scored
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
Yuan 2.0 Large Language Model
| Date | Stars |
|---|---|
| 2026-07-31 | 687 |
| 2026-08-03 | 687 |
| 2026-08-06 | 687 |
Today
— stars today
This week
— stars this week
This month
— stars this month
Momentum
0.0
growth rate 0.00%/day
# 源2.0
[Read this in English.](./README-EN.md)
📔 更为详细的使用信息，可以参考：[源2.0 论文](https://arxiv.org/ftp/arxiv/papers/2311/2311.15786.pdf)
## 目录
- [源2.0](#源20)
- [目录](#目录)
- [持续更新🔥🔥🔥](#持续更新)
- [介绍](#介绍)
- [源大模型共训计划](#源大模型共训计划)
- [快速启动](#快速启动)
- [环境配置](#环境配置)
- [数据预处理](#数据预处理)
- [预训练](#预训练)
- [模型微调](#模型微调)
- [模型](#模型)
- [Hugging Face版本 ](#hugging-face版本-)
- [原始版本 ](#原始版本-)
- [评测结果](#评测结果)
- [代码调用](#代码调用)
- [源2.0 + 源Chat部署](#源20--源chat部署)
- [linux部署](#linux部署)
- [Windows部署](#windows部署)
- [🔘 GPU部署](#-gpu部署)
- [🔘 CPU部署](#-cpu部署)
- [联系我们](#联系我们)
- [招聘公告](#招聘公告)
<!-- markdown-toc end -->
## 持续更新🔥🔥🔥
* [2024-04-23] [新版 2B 模型发布：Yuan2-2B-Mars-hf](https://huggingface.co/IEITYuan/Yuan2-2B-Mars-hf)：模型新增Java、C++、Go编程语言的代码生成能力;支持通过调用API工具进行数值计算，并在输出内容方面进行安全性增强，以及强化模型价值观对齐能力。同时发布GGUF版本 [Yuan2-2B-Mars-hf-GGUF](https://huggingface.co/IEITYuan/Yuan2-2B-Mars-hf-GGUF)，支持使用CPU、GPU、iGPU（Intel AI PC）进行推理加速。
* [2024-03-29] [增加用vLLM部署2B模型](https://github.com/IEI-mjx/Yuan-2.0/blob/main/3rdparty/vllm/README_yuan_vllm.md),详请参见本页中的章节
* [2024-02-29] [新版 2B 模型发布：Yuan2-2B-Februa-hf](https://huggingface.co/IEITYuan/Yuan2-2B-Februa-hf)：新版本的Yuan2-2B模型在数学、代码任务精度上均取得了明显提升。具体评测结果，**HumanEval精度从 61.5% 提升至 62.8%，GSM8K的测试精度从 70.2% 提升至 77.7% 。**
* [2024-02-04] [增加用 TensorRT-LLM & Triton Server 部署2B模型](https://github.com/IEI-mjx/Yuan-2.0/blob/main/3rdparty/TensorRT-LLM/README_Yuan.md),详请参见本页中的章节
* [2024-01-24] [源2.0适配FastChat框架](https://github.com/lm-sys/FastChat/blob/main/docs/model_support.md)，支持最新[对话模板](https://huggingface.co/IEITYuan/Yuan2-2B-Janus-hf/blob/main/tokenizer_config.json#L6)：FastChat是一个用于训练、部署和评估基于大型语言模型的开放平台。用户可以基于FastChat框架更快、更灵活地使用源2.0大模型。
* [2024-01-13] [新版 2B 模型发布：Yuan2-2B-Janus-hf](https://huggingface.co/IEITYuan/Yuan2-2B-Janus-hf)：**从评测结果上来看，新版本的Yuan2-2B模型在推理、代码、对话等领域，均取得了显著的成果。准确率方面，HumanEval的评测结果从54.9%提升至61.5%，GSM8K的评测结果从66.6%提升至70.2% 。**
* [2024-01-04] [使用 源Chat(YuanChat) 搭建对话应用](https://github.com/IEIT-Yuan/YuanChat/tree/main):源Chat 是Yuan-2.0 项目的一部分, 作为Yuan-2.0的一个客户端应用. 源Chat 提供了一种简单的交互方式，可以让用户很轻松的使用 Yuan-2.0, 用户可以很方便的进行测试以及使用。
* [2024-01-02] [增加 Hugging Face 版本模型下载链接](https://github.com/IEIT-Yuan/Yuan-2.0?tab=readme-ov-file#hugging-face%E7%89%88%E6%9C%AC-),详情参见本页中的章节。
## 介绍
源2.0 是浪潮信息发布的新一代基础语言大模型。我们开源了全部的3个模型源2.0-102B，源2.0-51B和源2.0-2B。并且我们提供了预训练，微调，推理服务的相关脚本，以供研发人员做进一步的开发。源2.0是在源1.0的基础上，利用更多样的高质量预训练数据和指令微调数据集，令模型在语义、数学、推理、代码、知识等不同方面具备更强的理解能力。
-----
对本仓库源码的使用遵循开源许可协议 **Apache 2.0**。
源2.0模型支持商用，不需要申请授权，请您了解并遵循[《源2.0模型许可协议》](./LICENSE-Yuan)，勿将开源模型和代码及基于开源项目产生的衍生物用于任何可能给国家和社会带来危害的用途以及用于任何未经过安全评估和备案的服务。
尽管模型在训练时我们已采取措施尽力确保数据的合规性和准确性，但模型参数量巨大且受概率随机性因素影响，我们无法保证输出内容的准确性，且模型易被输入指令所误导，本项目不承担开源模型和代码导致的数据安全、舆情风险或发生任何模型被误导、滥用、传播、不当利用而产生的风险和责任。**您将对通过使用、复制、分发和修改模型等方式利用该开源项目所产生的风险与后果，独自承担全部责任。**
## 源大模型共训计划
我们希望开源的模型更符合开发者应用需求，为此我们推出源大模型共训计划，开发者提出自己的应用或场景的需求，由我们来准备训练数据并对源大模型进行增强训练，训练后的模型依然在社区开源。
每月六日我们会收集前一月开发者提出的具体需求，经过评审后列入当月模型训练计划，训练完成后的模型在当月月末就会更新到开源社区。开发者只需要提出需求，由我们来进行数据准备、模型训练并开源。请开发者在issue的“源大模型共训计划”问题下提出具体需求，提出需求的具体格式无要求，只需要说清楚具体的应用场景、对大模型的能力需求以及给出输入输出的说明。
以下是提出需求的一些示例（几条示例，能够反应场景的典型特性即可）：
1. 场景需求：能够基于业务场景生成相关内容，对场景的描述。
输入：用户问题，输出：正确的答案。
2. 场景需求：我想让大模型能够阅读一个领域下的多篇论文，给出这些论文的综述，当前领域研究的热点以及未解决的问题，从而辅助学术研究。
输入为：一个领域下的多篇论文，输出为：综述研究报告，研究热点总结，未解决问题总结。
## 快速启动
详细启动文档可参考[快速启动](Quickstart.md).
### 环境配置
我们建议使用有我们提供的最新的docker[镜像文件](https://hub.docker.com/r/yuanmodel/yuan2.0).
我们可以通过下面命令启动容器：
```bash
docker pull yuanmodel/yuan2.0:V1-base
docker run --gpus all --privileged --ulimit stack=68719476736 --shm-size=1000G -itd -v /path/to/yuan_2.0:/workspace/yuan_2.0 -v /path/to/dataset:/workspace/dataset -v /path/to/checkpoints:/workspace/checkpoints --name your_name yuanmodel/yuan2.0:V1-base
docker exec -it your_name bash
```
### 数据预处理
我们提供了数据预处理的脚本，参考[数据预处理说明文档](./docs/data_process.md).
### 预训练
我们提供了用于预训练的文档和 [`example`](./examples)的脚本，具体使用方法可以参考[预训练说明文档](./docs/pretrain.md).
### 模型微调
请参考指令微调 [源2.0 指令微调示例](./docs/instruct_tuning.md)。
请注意，不同的微调脚本对应的模型Excerpt of 15,192 characters
Read on GitHub
47
30
16
16
10
8
6
3
3
3
Fan Zhang · Tianjin University
2
2
2
1
Ikko Eltociear Ashimine · Japan
1
1
Would you bet a product on this? Bounded 0–100 and slow moving.
matched fp:c1d5bbcaa2c44f58, llm:Repository description: 'Yuan 2.0 Large Language Model' (language: Python). No topics provided.
matched fp:c1d5bbcaa2c44f58, llm:Repository description: 'Yuan 2.0 Large Language Model' (language: Python). No topics provided.