AI资讯新闻榜单内容搜索-编译器

关键词: AI,Mirage,PyTorch,GPU

近日，来自 CMU 的 Catalyst Group 团队发布了一款 PyTorch 算子编译器 Mirage，用户无需编写任何 CUDA 和 Triton 代码就可以自动生成 GPU 内核，并取得更佳的性能。

关键词: 深度学习,MagPy,AI,人工智能,深度学习编译器

2024 年 7 月，清华大学计算机系 PACMAN 实验室发布开源深度学习编译器 MagPy，可一键编译用户使用 Python 编写的深度学习程序，实现模型的自动加速。

关键词: GPU,Bend,编译器,AI,大模型

最多可支持 10000+ 个并发线程。

关键词: AI芯片,AI硬件,国产AI芯片,GPU

不降低大模型算法精度，还能把芯片的算力利用效率提升 2~10 倍，这就是编译器的魅力。

关键词: StepCoder框架,编译器,强化学校,LLMs,模型训练

StepCoder将长序列代码生成任务分解为代码完成子任务课程来缓解强化学习探索难题，对未执行的代码段以细粒度优化；还开源了可用于强化学习训练的APPS+数据集。

关键词: LLaMA 2,LLaMA2-7B

Buddy Compiler 端到端 LLaMA2-7B 推理示例已经合并到 buddy-mlir仓库[1]主线。我们在 Buddy Compiler 的前端部分实现了面向 TorchDynamo 的第三方编译器，从而结合了 MLIR 和 PyTorch 的编译生态。