AI资讯新闻榜单内容搜索-算力

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: 算力
大模型终端部署新趋势:硬件直接支持混合矩阵乘法

大模型终端部署新趋势:硬件直接支持混合矩阵乘法

大模型终端部署新趋势:硬件直接支持混合矩阵乘法

在人工智能领域,模型参数的增多往往意味着性能的提升。但随着模型规模的扩大,其对终端设备的算力与内存需求也日益增加。低比特量化技术,由于可以大幅降低存储和计算成本并提升推理效率,已成为实现大模型在资源受限设备上高效运行的关键技术之一。然而,如果硬件设备不支持低比特量化后的数据模式,那么低比特量化的优势将无法发挥。

来自主题: AI资讯
4822 点击    2024-08-19 14:49
不用部署,实现大模型切换自由!Token、算力免费薅!咱AI开发者今年整个秋天的奶茶都省出来了!

不用部署,实现大模型切换自由!Token、算力免费薅!咱AI开发者今年整个秋天的奶茶都省出来了!

不用部署,实现大模型切换自由!Token、算力免费薅!咱AI开发者今年整个秋天的奶茶都省出来了!

作为全公司产品做的最好的工程师,同时也是代码写得最好的产品经理,你深刻地知道:搞个靠谱的 AI 应用需要灵感,而好的灵感则需要一个靠谱的 demo 来验证。

来自主题: AI资讯
6222 点击    2024-08-13 18:04
7个月涌现140个智算中心项目,我们发现四大特点

7个月涌现140个智算中心项目,我们发现四大特点

7个月涌现140个智算中心项目,我们发现四大特点

最近,数智前线通过中国政府采购网、中国招投标公共服务平台、天眼查、企查查、寻标宝等渠道的梳理和不完全统计,仅2024年前7个月,围绕土建基础设施和IT基础架构等方方面面的建设内容,智算中心相关项目中标公告已发布超140个。 一些新的趋势和特征,也正逐渐明晰。

来自主题: AI资讯
8614 点击    2024-08-12 11:45
25 个智谱 AI 孵化的 AI 项目

25 个智谱 AI 孵化的 AI 项目

25 个智谱 AI 孵化的 AI 项目

智谱 AI Z 计划企业路演日:Z DemoDay(2024·Summer)于 8 月 4 日在智谱 AI 公司举办。现场共有 25 家 Z 计划企业参加路演,近 300 位投资人参会(空间有限,策划预期 180 位)。 这也是 Z 计划自发布以来,举办的首届大规模路演活动。现场路演项目覆盖大模型赛道各关键生态位,涉及算力优化、数据治理等基础设施,以及法律、金融、生物医药等多个垂直行业应用场景。

来自主题: AI资讯
11856 点击    2024-08-06 15:29
英伟达最强AI芯片曝重大设计缺陷,中国特供版意外曝光!

英伟达最强AI芯片曝重大设计缺陷,中国特供版意外曝光!

英伟达最强AI芯片曝重大设计缺陷,中国特供版意外曝光!

因设计缺陷,英伟达最强AI芯片Blackwell,真的要延期发货了。金主爸爸们哀声一片,所有预定计划预计要拖延至少三个月。

来自主题: AI技术研报
11382 点击    2024-08-05 13:54
英伟达摊上大事儿了

英伟达摊上大事儿了

英伟达摊上大事儿了

英伟达摊上大事儿了。 据《The Information》报道,英伟达的最新杀手锏——采用Blackwell架构的AI GPU从原定的今年Q3推迟到2025年Q1推出。据称,这款 GPU 存在设计缺陷,因此需要推迟发布产品以解决问题。

来自主题: AI资讯
8064 点击    2024-08-05 12:20