微软6页论文爆火：三进制LLM，真香！
微软6页论文爆火：三进制LLM，真香！现在，大语言模型（LLM）迎来了“1-bit时代”。
来自主题: AI技术研报
3060 点击 2024-02-29 13:31
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
现在，大语言模型（LLM）迎来了“1-bit时代”。
成立仅9个月，法国Mistral AI拿出仅次于GPT-4的大模型。
2月26日，总部位于巴黎的人工智能公司Mistral AI发布尖端文本生成模型Mistral Large。该模型达到了顶级的推理能力，可用于复杂的多语言推理任务，包括文本理解、转换和代码生成。
近日，有报道称，AI 技术的先驱——OpenAI 正在开发一款集成或可能独立的网络搜索产品，这一举措预示着 AI 在搜索技术中的角色将被进一步加强。
没有微软账户就用不了 Windows？马斯克怒斥大厂收集用户数据训练 AI。
去年年底，谷歌 Gemini 震撼了业界，它是谷歌「最大、最有能力和最通用」的 AI 系统，号称第一个原生多模态大模型，能力超越 GPT-4，也被认为是谷歌反击微软和 OpenAI 的强大工具。
谷歌刚刷新大模型上下文窗口长度记录，发布支持100万token的Gemini 1.5，微软就来砸场子了。
大语言模型之大，成本之高，让模型的稀疏化变得至关重要。
刚刚，我们经历了LLM划时代的一夜。谷歌又在深夜发炸弹，Gemini Ultra发布还没几天，Gemini 1.5就来了。卯足劲和OpenAI微软一较高下的谷歌，开始进入了高产模式。
微软首个为Windows而设的智能体（Agent） 亮相：基于GPT-4V，一句话就可以在多个应用中无缝切换，完成复杂任务。整个过程无需人为干预，其执行成功率和效率是GPT-4的两倍，GPT-3.5的四倍。