DeepSeek 开源 TileKernels 高性能 GPU 算子库，大模型底层基础设施全面开放

API接口开发代码生成开发者生态硬件设计AI算子生成模型微调与训练视频VAE开源模型开源部署推理优化模型性价比端侧模型底层系统能力

2026-04-24 21:31

111 浏览

0 点赞

AI 速览

DeepSeek 正式开源 TileKernels 高性能 GPU 算子库及 DeepEP v2，标志着大模型竞争进入底层基础设施开源阶段。核心事实 - 开源内容：TileKernels 算子库（44个生产级算子）与 DeepEP v2 通信库 - 技术底座：基于 TileLang 构建，无需手写 CUDA，支持 NVIDIA、AMD、华为昇腾等多平台 - 核心模块：覆盖 MoE 路由、FP8 量化、Engram 条件记忆、Manifold HyperConnection 等五大模块 - 性能提升：DeepEP v2 重构架构，性能提升 1.3 倍，节省 4 倍 SM 资源占用价值点为 AI 基础设施研发者和模型训练团队提供工业级、高效率的底层 GPU 算子与通信方案，降低大模型训练与推理门槛。

近日，DeepSeek 正式开源TileKernels高性能 GPU 算子库，基于 TileLang 构建，包含 44 个生产级算子，以 MIT 协议开放商用。这是继 DeepEP、DeepGEMM、FlashMLA、3FS 之后，DeepSeek 再次开放的大模型核心底层组件，标志着国内大模型正式进入底层基础设施开源开放新阶段。

DeepSeek 开源 TileKernels 高性能 GPU 算子库，大模型底层基础设施全面开放

一、TileKernels 核心定位：补齐模型与 GPU 之间的关键连接件

TileKernels 并非普通算子库，而是打通模型架构与 GPU 执行的关键中间层，直接服务于 MoE、量化、记忆机制、超连接等前沿大模型架构，解决长期存在的性能瓶颈、显存浪费、推理延迟问题。所有代码均基于TileLang编写，无需手写 CUDA，开发效率更高、硬件兼容性更强，支持 NVIDIA、AMD、华为昇腾等多平台移植。

二、五大核心模块，44 个生产级算子全面开放

TileKernels 覆盖当前大模型最关键的技术模块：

MoE 路由（14 个）支持 256 专家规模的 top-k 门控、token 映射、负载均衡、张量并行，大幅降低 MoE 模型通信开销。

FP8 量化（15 个）实现 DeepSeek 原创混合精度方案，包含自定义 E5M6 浮点格式，支持三重融合算子（SwiGLU + 量化 + 转置），显著提速 MLP 层。

Engram 条件记忆（5 个）全球首次开源论文中提出的条件记忆算子，实现门控、哈希寻址、权重融合，增强模型长期记忆能力。

Manifold HyperConnection（10 个）解决深层模型残差放大问题，稳定训练深度，仅增加 6.7% 开销。

批量转置（1 个）量化必备基础算子，提升格式转换效率。

三、同步升级 DeepEP v2，MoE 通信能力再突破

同期，DeepSeek 发布DeepEP v2专家并行通信库：

重构底层架构，性能提升 1.3 倍

节省 4 倍 SM 资源占用

支持最大 EP 2048 超大规模扩展

后端切换为轻量 NCCL Gin

支持 0 SM Engram/PP/CP 极简资源模式

整体实现 “更快、更省、更大、更轻” 的 MoE 训练与推理能力。

四、硬件要求与技术优势

支持 SM90（H100）、SM100（Blackwell）

CUDA 13.1 及以上

不支持消费级显卡（如 RTX 4090）

硬件可移植性强，跨平台无需重写

相比 Triton 更可控，比 CUDA 更高效，是企业级训练推理的理想底座。

五、行业意义：大模型竞赛进入 “底层基建” 时代

DeepSeek 近期密集开源：

DeepGEMM：FP8 矩阵计算

FlashMLA：多 head latent attention

3FS：AI 分布式文件系统

DeepEP：MoE 通信

TileKernels：架构算子

这一系列动作意味着：大模型竞争已从 “模型跑分” 下沉到 “底层系统能力”。开源基础设施不仅降低行业门槛，更构建起统一、高效、可扩展的大模型技术栈，推动整个人工智能行业走向工业化、标准化、低成本化。

TileKernels 的开源，让全球开发者可直接使用 DeepSeek 在 V3 系列模型中验证的顶尖 GPU 算子能力，配合 DeepEP v2、DeepGEMM 等组件，形成完整训练推理栈。对于大模型研发、AI 基础设施、硬件适配厂商而言，这是一次技术红利的全面释放，也预示着中国大模型底层技术正式走向世界前沿。

好文章，需要你的鼓励

# 报错信息分析与调试指南 ## 任务说明请分析用户提供的报错信息，推测可能的错误原因，并提供系统性的调试步骤。 ## 分析要求 1. **错误类型识别** - 确定是语法错误、运行时错误、逻辑错误还是环境配置错误 - 识别具体的错误类别（如空指针、数组越界、类型不匹配等） 2. **原因推测** - 基于错误信息中的关键线索进行合理推断 - 考虑常见的导致此类错误的编程场景 - 分析可能的代码问题或环境问题 3. **调试步骤** - 提供从简单到复杂的逐步调试方法 - 包括代码检查、日志添加、环境验证等具体操作 - 给出预防类似错误的最佳实践建议 ## 输出格式 - **错误类型**：[具体的错误分类] - **可能原因**： 1. [原因1] 2. [原因2] 3. [原因3] - **调试步骤**： 1. [步骤1] 2. [步骤2] 3. [步骤3] 4. [步骤4] - **解决方案**：[具体的修复建议] ## 示例 **输入**：【报错信息】 ``` TypeError: Cannot read property 'length' of undefined at processData (app.js:25:18) at main (app.js:10:5) ``` **输出**： - **错误类型**：运行时错误 - TypeError - **可能原因**： 1. 变量未正确初始化就被访问其 length 属性 2. 函数参数传递了 undefined 值 3. 异步操作中数据还未加载完成就尝试访问 - **调试步骤**： 1. 检查 app.js 第25行附近的变量声明和赋值 2. 在访问 length 属性前添加类型检查：`if (variable && variable.length)` 3. 使用 console.log() 输出相关变量的值确认其状态 4. 检查函数调用时传入的参数是否正确 - **解决方案**：在访问对象属性前先验证对象是否存在，或确保变量在使用前已被正确初始化。