Top AI Repos — open-source AI, indexed and scored
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
A series of large language models developed by Baichuan Intelligent Technology
| Date | Stars |
|---|---|
| 2026-07-24 | 4089 |
| 2026-07-25 | 4089 |
| 2026-07-28 | 4089 |
| 2026-07-30 | 4089 |
| 2026-07-31 | 4089 |
| 2026-08-06 | 4089 |
Today
— stars today
This week
— stars this week
This month
— stars this month
Momentum
0.0
growth rate 0.00%/day
<!-- markdownlint-disable first-line-h1 -->
<!-- markdownlint-disable html -->
<div align="center">
<h1>
Baichuan 2
</h1>
</div>
<p align="center">
🤗 <a href="https://huggingface.co/baichuan-inc/" target="_blank">Hugging Face</a> • 🤖 <a href="https://modelscope.cn/organization/baichuan-inc" target="_blank">ModelScope</a> • 💬 <a href="https://github.com/baichuan-inc/Baichuan-7B/blob/main/media/wechat.jpeg?raw=true" target="_blank">WeChat</a>• 🧩 <a href="https://modelers.cn/spaces/Baichuan/Baichuan2-7B-Chat" target="_blank">Modelers</a>
</p>
<div align="center">
<div align="center">
<img src="https://github.com/baichuan-inc/Baichuan2/blob/main/media/xy.jpeg?raw=true" width=20% />
</div>
🚀 百小应APP已正式上线！懂搜索、会提问的AI助手，各大应用商店搜索百小应下载，欢迎下载体验 🎉
[](https://github.com/baichuan-inc/Baichuan2/blob/main/LICENSE)
<h4 align="center">
<p>
<b>中文</b> |
<a href="https://github.com/baichuan-inc/Baichuan2/blob/main/README_EN.md">English</a>
<p>
</h4>
</div>
# 目录
- [📖 模型介绍](#模型介绍)
- [📊 Benchmark 结果 🥇🥇🔥🔥](#Benchmark-结果)
- [⚙️ 推理和部署](#推理和部署)
- [🛠️ 模型微调](#模型微调)
- [💾 中间 Checkpoints 🔥🔥](#中间-Checkpoints)
- [👥 社区与生态](#社区与生态)
- [📜 声明、协议、引用](#声明协议引用)
# 更新
[2023.12.29] 🎉🎉🎉 我们发布了 **[Baichuan2-13B-Chat v2](https://huggingface.co/baichuan-inc/Baichuan2-13B-Chat/tree/v2.0)** 版本。其中：
- 大幅提升了模型的综合能力，特别是数学和逻辑推理、复杂指令跟随能力。
# 模型介绍
- Baichuan 2 是百川智能推出的**新一代开源大语言模型**，采用 **2.6 万亿** Tokens 的高质量语料训练。
- Baichuan 2 在多个权威的中文、英文和多语言的通用、领域 benchmark 上取得同尺寸**最佳**的效果。
- 本次发布包含有 **7B**、**13B** 的 **Base** 和 **Chat** 版本，并提供了 Chat 版本的 **4bits 量化**。
- 所有版本对学术研究完全开放。同时，开发者通过邮件申请并获得官方商用许可后，即可**免费商用**，请参考[协议](#协议)章节。
- 欢迎阅读我们的技术报告 [Baichuan 2: Open Large-scale Language Models](https://arxiv.org/abs/2309.10305) 获取更多信息。
本次发布版本和下载链接见下表：
| | 基座模型 | 对齐模型 | 对齐模型 4bits 量化 |
|:-------:|:-------:|:-------:|:-----------------:|
| 7B | 🤗 [Baichuan2-7B-Base](https://huggingface.co/baichuan-inc/Baichuan2-7B-Base) | 🤗 [Baichuan2-7B-Chat](https://huggingface.co/baichuan-inc/Baichuan2-7B-Chat) | 🤗 [Baichuan2-7B-Chat-4bits](https://huggingface.co/baichuan-inc/Baichuan2-7B-Chat-4bits) |
| 13B | 🤗 [Baichuan2-13B-Base](https://huggingface.co/baichuan-inc/Baichuan2-13B-Base) | 🤗 [Baichuan2-13B-Chat](https://huggingface.co/baichuan-inc/Baichuan2-13B-Chat) | 🤗 [Baichuan2-13B-Chat-4bits](https://huggingface.co/baichuan-inc/Baichuan2-13B-Chat-4bits) |
# Benchmark 结果
我们在[通用](#通用领域)、[法律](#法律医疗)、[医疗](#法律医疗)、[数学](#数学代码)、[代码](#数学代码)和[多语言翻译](#多语言翻译)六个领域的中英文和多语言权威数据集上对模型进行了广泛测试。
## 通用领域
在通用领域我们在以下数据集上进行了 5-shot 测试。
- [C-Eval](https://cevalbenchmark.com/index.html#home) 是一个全面的中文基础模型评测数据集，涵盖了 52 个学科和四个难度的级别。我们使用该数据集的 dev 集作为 few-shot 的来源，在 test 集上进行测试。我们采用了 [Baichuan-7B](https://github.com/baichuan-inc/Baichuan-7B/tree/main) 的评测方案。
- [MMLU](https://arxiv.org/abs/2009.03300) 是包含 57 个任务的英文评测数据集，涵盖了初等数学、美国历史、计算机科学、法律等，难度覆盖高中水平到专家水平，是目前主流的 LLM 评测数据集。我们采用了[开源](https://github.com/hendrycks/test)的评测方案。
- [CMMLU](https://github.com/haonan-li/CMMLU) 是一个包含 67 个主题的综合性性中文评估基准，专门用于评估语言模型在中文语境下的知识和推理能力。我们采用了其[官方](https://github.com/haonan-li/CMMLU)的评测方案。
- [Gaokao](https://github.com/OpenLMLab/GAOKAO-Bench) 是一个以中国高考题作为评测大语言模型能力的数据集，用以评估模型的语言能力和逻辑推理能力。 我们只保留了其中的单项选择题，并进行了随机划分。我们采用了与 C-Eval 类似的评测方案。
- [AGIEval](https://github.com/microsoft/AGIEval) 旨在评估模型的认知和解决问题相关的任务中的一般能力。 我们只保留了其中的四选一单项选择题，并进行了随机划分。我们采用了与 C-Eval 类似的评测方案。
- [BBH](https://huggingface.co/datasets/lukaemon/bbh) 是一个挑战性任务 Big-Bench 的子集。Big-Bench 目前包括 204 项任务。任务主题涉及语言学、儿童发展、数学、常识推理、生物学、物理学、社会偏见、软件开发等方面。BBH 是从 204 项 Big-Bench 评测基准任务中大模型表现不好的任务单独拿出来形成的评测基准。
### 7B 模型结果
| | **C-Eval** | **MMLU** | **CMMLU** | **Gaokao** | **AGIEval** | **BBH** |
|:---------------------:|:----------:|:--------:|:---------:|:----------:|:-----------:|:-------:|
| | 5-shot | 5-shot | 5-shot | 5-shot | 5-shot | 3-shot |
| **GPT-4** | 68.40 | 83.93 | 70.33 | 66.15 | 63.27Excerpt of 29,172 characters
Read on GitHub
23
LoveSJ · Baichuan Inc. · China
3
yuunnn_w
2
1
1
Ikko Eltociear Ashimine · Japan
1
1
Dr. Artificial曾小健 · China
1
GuoPD · Baichuan Intelligent Technology · China
1
Would you bet a product on this? Bounded 0–100 and slow moving.
matched fp:69dae89a7d1fd97d, topic:large-language-models, topic:gpt
matched fp:69dae89a7d1fd97d, topic:natural-language-processing
matched fp:69dae89a7d1fd97d, topic:benchmark
matched fp:69dae89a7d1fd97d, topic:chatgpt