Chip for AI14 项资源
Kernel Optimization
面向 GPU、CPU 和加速器的 kernel 生成、优化、评测与编译工具。
生成、优化与评测
- AccelOpt（2025/2026） — 利用 slow–fast kernel 对积累优化记忆，在 AWS Trainium 上自主优化 kernel，并提供 NKIBench。 论文
- AKG kernel Agent（2025） — 用多 agent 自动完成跨 GPU/NPU 的 kernel 生成、迁移和调优，支持多种 kernel DSL。
- Atrex Kernel Agent（2026） — 围绕 GPU 知识库、profiling 工具与结构化工作流完成 kernel 实现、诊断及迭代优化。
- AWS Neuron Agentic Development — AWS 官方 NKI agent 工具，覆盖 kernel 编写、编译修复、profiling、性能分析及 API 迁移。
- CUDA Agent（2026） — 把大规模 agentic RL、CUDA 任务数据、专家 skills 与可验证执行环境结合，训练高性能 kernel 生成能力。 论文
- CUDA-L1（2025/2026） — 以对比强化学习和执行反馈优化 CUDA kernel，讨论性能奖励设计及 reward hacking。 论文
- KernelBench（2025） — 以 PyTorch 任务评估模型能否生成正确且更快的 GPU kernel，并提供运行与测量工具。
- Kevin-32B（2025） — 通过多轮强化学习训练 CUDA kernel 生成与优化模型，让模型利用执行反馈迭代代码。 论文 模型
- MaxKernel（2026） — 针对 TPU kernel 提供人机协作、自主优化和图搜索三种多 agent 模式，结合编译、测试和硬件 profiling。 代码
- PyTorch KernelAgent / KernelFalcon（2025–2026） — 将 kernel 生成、数值验证、硬件 profiling 和瓶颈分析组织为多 agent 闭环，并用共享记忆指导优化。 技术博客
Kernel 与编译工具
- Arm KleidiAI — 面向 Arm CPU 的 AI micro-kernel 库，提供按硬件架构优化的矩阵计算与数据打包例程。 主仓库
- DeepEP — 为 MoE expert parallelism 设计高吞吐与低延迟通信路径，连接模型路由、GPU kernel 和网络传输。
- TileLang — 以 tile 为核心表达 GPU、CPU 和加速器 kernel，简化底层优化与跨硬件后端实现。
- Triton — 用于编写高性能 GPU kernel 的语言和编译器，是多项 kernel agent 的代码生成目标。