字节开源大模型量化新思路，2-bit量化模型精度齐平fp16
字节开源大模型量化新思路，2-bit量化模型精度齐平fp16随着深度学习大语言模型的越来越火爆，大语言模型越做越大，使得其推理成本也水涨船高。模型量化，成为一个热门的研究课题。
来自主题: AI技术研报
5100 点击 2024-05-13 17:18
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
随着深度学习大语言模型的越来越火爆，大语言模型越做越大，使得其推理成本也水涨船高。模型量化，成为一个热门的研究课题。
Richard Sutton 在 「The Bitter Lesson」中做过这样的评价：「从70年的人工智能研究中可以得出的最重要教训是，那些利用计算的通用方法最终是最有效的，而且优势巨大。」
OpenAI挖角谷歌、加班加点研发的AI搜索产品，马上就要上线了。
智东西4月30日报道，据外媒4月29日报道，当下，Inflection AI、Stability AI和Anthropic等知名AI初创公司都正面临财务危机。
2024年4月15日，OpenAI CEO Sam Altman与COO Brad Lightcap一同做客播客节目20VC，与Harry Stebbings就OpenAI的快速扩张、部署策略与未来发展图景展开讨论。
「Rabbit R1，它本质上是安卓系统上面做了个 Launcher 程序，破解后在手机上就能运行。」
继AI Pin翻车后，又一款网红AI硬件rabbit r1迎来了用户首批体验。
4 月 4 日，Y Combinator W2024 Batch Demo Day 正式开始。这次共亮相 260 个项目，YC 从 2.7 万份申请中筛选出来，通过率低于 1%，是历史上 YC 录取比例最低的一轮批次之一。
国内大模型还在如火如荼，但国外的一些生成式AI先锋们，正在上演一场生死出逃大戏。
Stable Diffusion数位核心开发者离职，紧接着该公司创始人、首席执行官Emad Mostaque宣布卸任相关职务，并表示未来将专注开发去中心化AI。如今更是有消息称，据Stability AI内部文件和数十位知情人士透露，该公司的现金储备已经枯竭。