AI资讯新闻榜单内容搜索-SD

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: SD
AI自己榨干算力!让Kimi K3自己写「超级算子」,推理快了3倍

AI自己榨干算力!让Kimi K3自己写「超级算子」,推理快了3倍

AI自己榨干算力!让Kimi K3自己写「超级算子」,推理快了3倍

Inferact开源TPU巨型算子与浪潮信息发布元脑SD200 Ultra超节点服务器,两家公司分别用谷歌TPU v7和128颗本土AI芯片,通过算子融合让Kimi K3推理性能提升3倍以上,且浪潮信息让K3自主编写超级算子。

来自主题: AI资讯
8508 点击    2026-09-30 11:55
在线蒸馏灵活却太慢,离线缓存高效却不够灵活,LinkedIn 如何取舍?

在线蒸馏灵活却太慢,离线缓存高效却不够灵活,LinkedIn 如何取舍?

在线蒸馏灵活却太慢,离线缓存高效却不够灵活,LinkedIn 如何取舍?

LinkedIn 公开其 AI 职位搜索的多教师蒸馏训练基础设施,通过基于 SGLang 的定制框架结合在线与离线蒸馏方案,并叠加 LiGer、多节点训练、FSDP2 及 H200 集群等优化,实现约 8 倍训练加速,将 80 亿参数相关性模型和 17 亿参数互动模型的知识压缩至 6 亿参数排序模型,使职位搜索 NDCG@10 提升 24.48%。

来自主题: AI技术研报
7112 点击    2026-09-30 11:10
笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub

笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub

笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub

GitHub火热开源项目Colibrì以纯C实现分层推理框架,通过AI内存多层化将SSD、RAM和VRAM组成动态调度系统,无需GPU即可让普通笔记本运行744B参数GLM-5.2等超大MoE模型,已揽获32k Star并支持9个模型家族。

来自主题: AI资讯
9845 点击    2026-09-26 15:01
深度|对话OpenAI Codex负责人Tibo:从内部工具杀到顶流,Codex的终极目标不只是Coding Agent

深度|对话OpenAI Codex负责人Tibo:从内部工具杀到顶流,Codex的终极目标不只是Coding Agent

深度|对话OpenAI Codex负责人Tibo:从内部工具杀到顶流,Codex的终极目标不只是Coding Agent

OpenAI Codex负责人Tibo Sottiaux在访谈中详述了Codex从内部Python智能体演进为顶级编程助手的历程,并解释了选择Rust构建核心智能体、从一开始就开源CLI和SDK、不绑定自家模型等关键工程决策背后的考量,指出Codex的终极目标是打造易用的个人AGI。

来自主题: AI资讯
9633 点击    2026-09-26 14:58
蒋涛:大模型的“PC服务器时代”到来,解锁Token自由,走向人人程序员、行行炼模型

蒋涛:大模型的“PC服务器时代”到来,解锁Token自由,走向人人程序员、行行炼模型

蒋涛:大模型的“PC服务器时代”到来,解锁Token自由,走向人人程序员、行行炼模型

9月10日,AMD 在北京举办“携手创新 共赢智能体AI时代”媒体沙龙,面向中国市场发布锐龙 AI Max PRO 400系列处理器,把客户端设备统一内存上限推升至192GB,实现本地运行3000亿参数级大模型的能力。CSDN 创始人蒋涛受邀发表题为《大模型的 PC 服务器时代》主题演讲。

来自主题: AI资讯
10357 点击    2026-09-17 10:11
给大模型「投机解码」松绑:免训练,即插即用近似验证,速度再提15%

给大模型「投机解码」松绑:免训练,即插即用近似验证,速度再提15%

给大模型「投机解码」松绑:免训练,即插即用近似验证,速度再提15%

北航、清华、港大、北大联合团队提出近似投机解码(ASD),作为即插即用的验证器模块,在严格预算内接受极少数低遗憾分歧字并复用大模型已算好的后缀,免训练地挂载于DSpark、EAGLE3、Medusa等主流投机解码算法,吞吐最高提升15.26%。

来自主题: AI技术研报
7864 点击    2026-09-05 10:34
「AI 味」不是在一句话里,而是渗透了所有的文字

「AI 味」不是在一句话里,而是渗透了所有的文字

「AI 味」不是在一句话里,而是渗透了所有的文字

相信很多人现在见到「不是……而是」,已经会下意识 PTSD 了:这是不是 AI 写的?还有各种破折号,冒号,以及经典版本「稳稳地接住你」「我用最直白的话,不绕弯子地告诉你」…… 当然,这些不断被总结出

来自主题: AI技术研报
8591 点击    2026-08-31 12:03
AI不缺算力,缺的是一块“懂模型”的硬盘

AI不缺算力,缺的是一块“懂模型”的硬盘

AI不缺算力,缺的是一块“懂模型”的硬盘

寅谱试图用一种“以存换算”的思路破题:不是让硬盘SSD替代GPU计算,而是用更低成本的SSD承接温冷(指访问频率极低和中等)的AI大模型数据、复用已经完成的中间结果,减少显存及内存压力、GPU等待和重复Prefill(预填充)。

来自主题: AI资讯
8719 点击    2026-08-30 12:05
Anthropic 官方指南:AI Native 开发手册

Anthropic 官方指南:AI Native 开发手册

Anthropic 官方指南:AI Native 开发手册

本文编译自 Anthropic 官方博客《The AI-Native SDLC Playbook》,2026 年 8 月 21 日发布,作者 Louis Claxton。全文约八千字,保留了原文全部代码示例和配置样板,对部分章节做了适合中文读者的表述调整

来自主题: AI资讯
9120 点击    2026-08-27 09:30