AI资讯新闻榜单内容搜索-CPU

关键词: CPU,AI推理,GPU,Hugging Face,推理大模型,多模态大模型

大模型的训练阶段我们选择GPU，但到了推理阶段，我们果断把CPU加到了菜单上。

关键词: GPU,CPU,AI芯片,AI硬件,专用加速芯片,AI加速器服务器

AIGC的这把火，燃起来的可不只是百模大战的热度和雨后春笋般的各式AI应用。更是由于算力与通信需求的爆发式增长，使得底层的专用加速芯片、以及配备这些芯片的AI加速服务器再次被拉到了大众的聚光灯下。

关键词: token,向量数据库,RAG,Claude 3,Gemini 1.5

“Claude 3、Gemini 1.5，是要把RAG（检索增强生成）给搞死了吗？”

关键词: CPU,GPU,NPU,AI电脑,AI PC

众所周知，如今“AI PC”可以说是消费电子行业最为热门的话题之一。对于一些不太了解技术细节，但却对这个概念心向往之的消费者而言，他们相信“AI PC”可以更智能地帮助自己完成一些不熟练的操作，或是减轻日常工作的负担。

关键词: AI Explorer,AI CPU,AI PC,微软AI电脑,AI硬件

2024年第一个四分之一还没过完，PC市场的最热关键词，已是非「AI」莫属。

关键词: AI算力,GPU,AI模型训练

本文介绍了为什么在AI计算中要使用GPU，以及GPU与CPU的区别和作用。GPU具备强悍的并行计算能力，适合处理大量高强度并行计算任务，包括深度学习算法。

关键词: AI芯片,AI硬件,AI处理器,英特尔AICPU

千呼万唤始出来，第五代英特尔® 至强® 可扩展处理器，它来了！若是用一句话来概括它的特点，那就是——AI味道越发得浓厚。

关键词: AI计算机,个人AI计算进

大模型创业，“最安全”的人来了！吴翰清，前阿里云首席安全科学家、P10级研究员在今年5月离职阿里后，现在被曝投身AI创业。

关键词: AI诊断,AI医疗,AI生物

就在最近，医学顶刊BMJ便给出了这样一个结论：在遵循公认的临床抑郁症治疗标准方面，先进大模型可能比医生要强！

关键词: LLM,大模型,Transformer

只需不到9行代码，就能在CPU上实现出色的LLM推理性能。英特尔® Extension for Transformer创新工具包中的LLM Runtime为诸多模型显著降低时延，且首个token和下一个token的推理速度分别提升多达40倍和2.68倍，还能满足更多场景应用需求。