Top AI Repos — open-source AI, indexed and scored
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
AI 基础知识 - GPU 架构、CUDA 编程、大模型基础及AI Agent 相关知识。
| Date | Stars |
|---|---|
| 2026-07-31 | 2038 |
| 2026-08-04 | 2102 |
| 2026-08-06 | 2102 |
Today
— stars today
This week
— stars this week
This month
— stars this month
Momentum
0.0
growth rate 0.00%/day
# AI Fundamentals 本仓库是一个全面的人工智能基础设施（AI Infrastructure）学习资源集合，涵盖从硬件基础到高级应用的完整技术栈。内容包括 GPU 架构与编程、CUDA 开发、大语言模型、AI 系统设计、性能优化、企业级部署等核心领域，旨在为 AI 工程师、研究人员和技术爱好者提供系统性的学习路径和实践指导。 > - **适用人群**：AI 工程师、系统架构师、GPU 编程开发者、大模型应用开发者、技术研究人员。 > - **技术栈**：CUDA、GPU 架构、LLM、AI 系统、分布式计算、容器化部署、性能优化。 --- **Star History**:  --- ## 1. 硬件架构与互连技术 涵盖单机基础计算芯片（GPU、TPU）设计原理，PCIe、NVLink 高速互连总线协议，GPUDirect 跨节点直通技术，以及 NVIDIA GB300 NVL72 等异构融合超级芯片的系统级架构与延迟金字塔模型。详细内容请访问：**[硬件架构与互连技术](01_hardware_architecture/README.md)**。 - **基础计算芯片架构** - [深入理解 GPU 架构](./01_hardware_architecture/nvidia/understand_gpu_architecture/README.md) - [TPU 101：深度学习专用加速器架构解析](./01_hardware_architecture/tpu/tpu%20101.md) - [GPGPU vs NPU：大模型推理训练对比](./01_hardware_architecture/nvidia/GPGPU_vs_NPU_大模型推理训练对比.md) - **高速互连与数据传输技术** - [PCIe 总线技术大全](./01_hardware_architecture/pcie/01_pcie_comprehensive_guide.md) - [Linux PCIe P2PDMA 技术介绍](./01_hardware_architecture/pcie/02_p2pdma_technology.md) - [NVLink 技术入门](./01_hardware_architecture/nvlink/nvlink_intro.md) - [NVIDIA GPUDirect P2P 技术详解：节点内 GPU 高速互联](./01_hardware_architecture/gpudirect/02_gpudirect_p2p.md) - [NVIDIA GPUDirect RDMA 与 Storage 技术详解](./01_hardware_architecture/gpudirect/01_gpudirect_technology.md) - **异构融合架构与系统性能评估** - [NVLink-C2C：芯片级高速互连技术详解](./01_hardware_architecture/superchips/nvlink_c2c.md) - [NVIDIA GB300 NVL72：机架级计算系统架构解析](./01_hardware_architecture/superchips/nvidia_gb300.md) - [AI 基础设施延迟金字塔](./01_hardware_architecture/performance/ai_latency_pyramid.md) --- ## 2. AI 集群运维与高性能通信 构建高吞吐 AI 计算集群的完整运维体系，涵盖基于 Device Query、nvidia-smi 和 nvtop 的 GPU 状态监控，InfiniBand (IB) 网络架构与健康检查，以及 NCCL 分布式通信库的基准测试与多节点部署实战。详细内容请访问：**[AI 集群运维与通信](03_ai_cluster_ops/README.md)**。 - **GPU 基础运维** - [设备查询：Device Query](./03_ai_cluster_ops/01_gpu_ops/01_device_query.md) - [误区解读：GPU 利用率指标分析](./03_ai_cluster_ops/01_gpu_ops/02_gpu_utilization_myth.md) - [状态监控：nvidia-smi 指南](./03_ai_cluster_ops/01_gpu_ops/03_nvidia_smi_guide.md) - [状态监控：nvtop 指南](./03_ai_cluster_ops/01_gpu_ops/04_nvtop_guide.md) - **InfiniBand 高性能网络** - [理论基础：IB 网络架构与协议](./03_ai_cluster_ops/02_infiniband/01_ib_network_theory.md) - [网络运维：健康检查与性能监控实战](./03_ai_cluster_ops/02_infiniband/README.md) - **NCCL 分布式通信测试** - [理论基础：NCCL 教程](./03_ai_cluster_ops/03_nccl/01_nccl_theory.md) - [实战指南：基准测试与多节点部署](./03_ai_cluster_ops/03_nccl/README.md) --- ## 3. 云原生 AI 基础设施 基于 Kubernetes 的 AI 基础设施构建方案，涵盖 NVIDIA Container Toolkit 与 Device Plugin 底层机制、Kueue/HAMi 细粒度 GPU 资源切分与池化、LWS/llm-d 分布式推理调度，以及 JuiceFS、DeepSeek 3FS 等高性能分布式存储系统的架构实践。详细内容请访问：**[云原生 AI 平台](04_cloud_native_ai_platform/README.md)**。 ### 3.1 Kubernetes AI 基础设施 解析 Kubernetes AI 场景核心组件，包括容器运行时 GPU 支持底层机制、设备插件源码分析、Kueue 调度整合，以及基于 LWS 的大模型分布式训练与推理架构。 - [Kubernetes GPU 管理与 AI 工作负载](./04_cloud_native_ai_platform/k8s/README.md)：云原生 AI 基础设施建设指南与技术导图 - [NVIDIA Container Toolkit 原理](./04_cloud_native_ai_platform/k8s/01_nvidia_container_toolkit_analysis.md)：容器使用 GPU 的底层机制深度解析 - [Device Plugin 原理](./04_cloud_native_ai_platform/k8s/02_nvidia_k8s_device_plugin_analysis.md)：Kubernetes 设备插件机制源码分析 - [Kueue + HAMi 调度方案](./04_cloud_native_ai_platform/k8s/03_kueue_hami_integration.md)：云原生作业队列与细粒度 GPU 共享机制 - [LWS (Leader Worker Set) 介绍](./04_cloud_native_ai_platform/k8s/04_lws_intro.md)：Kubernetes 原生的大模型分布式训练与推理调度抽象 - [分布式推理框架](./04_cloud_native_ai_platform/k8s/05_llm_d_intro.md)：基于 Kubernetes 的 LLM 推理架构设计 - [Containerd 日志分析](./04_cloud_native_ai_platform/k8s/06_containerd_log_analysis.md)：云原生容器运行时的日志排查与分析 ### 3.2 GPU 资源管理与虚拟化 提供异构算力环境下的 GPU 资源精细化管理方案，涵盖硬件级/内核态/用户态虚拟化机制、CUDA 流与 MPS 调度优化，并提供 HAMi 资源隔离与 Flex AI 的生产环境落地配置。 **基础系列文档**： - [第一部分：基础理论篇](./04_cloud_native_ai_platform/gpu_manager/01_basic_theory.md)：构建技术认知框架，解析传统模式局限性与核心技术体系 - [第二部分：虚拟化技术篇](./04_cloud_native_ai_platform/gpu_manager/02_virtualization.md)：深入剖析硬件级、内核态与用户态虚拟化的核心实现机制 - [第三部分：资源管理与优化篇](./04_cloud_native_ai_platform/gpu_manager/03_
Excerpt of 44,440 characters
Read on GitHub
744
11
Octopus · Independent Developer · United States
1
1
1
Would you bet a product on this? Bounded 0–100 and slow moving.
matched fp:cec4d0090e6d270e, topic:ai-agent, desc:ai agent
matched fp:cec4d0090e6d270e, topic:cuda