最新发现！每参数3.6比特，语言模型最多能记住这么多
最新发现！每参数3.6比特，语言模型最多能记住这么多GPT 系列模型的记忆容量约为每个参数 3.6 比特。
来自主题:
AI技术研报
6885 点击 2025-06-04 14:45
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
GPT 系列模型的记忆容量约为每个参数 3.6 比特。
今年 2 月，OpenAI 前创始成员 Andrej Karpathy 凭一己之力，带火了一个词——“氛围编码”（Vibe Coding）。
数学家们一直痴迷于能够解决复杂数学问题的人工智能。OpenAI 等机构开发这些模型的部分开发者认为，学会解决数学难题的 AI 可以运用相似的推理方法来解决其他类型的问题。但由于当前的人工智能尚未证明能在高等数学领域超越人类专家，一些创业者看到了开发专业数学模型的机遇。
当AI开始写报告、做播客、生成视频，内容创作者还剩什么优势？
你有没有想过，市场调研这个看似稳固的传统行业正在经历一场彻底的革命？每年全球企业在市场调研上花费1400亿美元，却常常被缓慢的调查、有偏见的样本群体和滞后的洞察所困扰。更令人震惊的是，在这个庞大的市场中，软件只占其中微不足道的一小部分。
实践出真知
在人工智能领域，跨模态生成（如文本到图像、图像到文本）一直是技术发展的前沿方向。现有方法如扩散模型（Diffusion Models）和流匹配（Flow Matching）虽取得了显著进展，但仍面临依赖噪声分布、复杂条件机制等挑战。
总部位于特拉维夫的初创公司 Speedata 开发了一款专为加速大数据分析和 AI 工作负载而设计的分析处理单元(APU)，该公司已完成 4400 万美元的 B 轮融资， 使其融资总额达到 1.14 亿美元 。
AI公司专利往往缺乏体内实验数据。
想训练属于自己的高性能推理模型，却被同步强化学习（RL）框架的低效率和高门槛劝退？AReaL 全面升级，更快，更强，更好用！
上个月 21 号，Google I/O 2025 开发者大会可说是吸睛无数，各种 AI 模型、技术、工具、服务、应用让人目不暇接。在这其中，Gemini Diffusion 绝对算是最让人兴奋的进步之一。从名字看得出来，这是一个采用了扩散模型的 AI 模型，而这个模型却并非我们通常看到的扩散式视觉生成模型，而是一个地地道道的语言模型！
GPT-5，将于7月发布？刚刚，这个消息已经传疯了！跟奥特曼、OpenAI来往密集的几位人士，已经在留言区纷纷爆料了。而奥特曼本人确认，o3 pro也快来了。
效果超预期、当前PPT制作第一名……
首先，cursor 0.51对UI设计界面做了重大更新：各个配置条目更为合理，看上去不再是草台班子的感觉。官方0.51changelog暂未发布，先体验一下BETA的Memories能力。
一觉醒来，ChatGPT又完成了一些“小”更新！
近日，一位 ID 名为 GpsTracker 的网友在网上爆料称，埃隆·马斯克旗下 xAI 公司最新发布的 Grok 3 人工智能模型存在异常行为——当用户激活其“思考模式”提问时，模型竟自称是竞争对手 Anthropic 公司开发的 Claude 3.5 模型。
AI陪伴应用的Top 1——Character.ai（c.ai），也开始做起视频生成了。
之前我们探讨过公司AI能力的评判方式：
LLM根本不会思考！LeCun团队新作直接戳破了大模型神话。最新实验揭示了，AI仅在粗糙分类任务表现优秀，却在精细任务中彻底失灵。
斯坦福最新大模型医疗任务全面评测，DeepSeek R1以66%胜率拿下第一！
大二学生许柠第一次在AI身上感受到了“纵欲过度”。
一项新的强化学习方法，直接让Qwen性能大增，GPT-4o被赶超！
不用换模型、不用堆参数，靠 SUGAR 模型性能大增！
昨天YC一个访谈《State-Of-The-Art Prompting For AI Agents》，专门讲他们投资的一家客服公司，公开了他们提示词的写法，这应该也属于第一家吧。
想象一下，你在一个陌生的房子里寻找合适的礼物盒包装泰迪熊，需要记住每个房间里的物品特征、位置关系，并根据反馈调整行动。
最近AI圈子里有两个特别有意思的项目，一个是谷歌DeepMind的AlphaEvolve，另一个是UBC大学的Darwin Gödel Machine（简称DGM）。
AI工具帮助学生轻松完成作业，但过度依赖导致学习深度不足。研究显示，使用AI辅助的学生练习阶段表现优异，但独立考试时成绩显著下降。认知能力可能因“认知卸载”而退化，年轻群体更易受影响。教育界尝试禁用、引导或改革评估方式，但AI对学习本质的挑战仍未解决。
在数字化时代，视觉信息在知识传递和决策支持中的重要性日益凸显。然而，传统的检索增强型生成（RAG）方法在处理视觉丰富信息时面临着诸多挑战。一方面，传统的基于文本的方法无法处理视觉相关数据；另一方面，现有的视觉 RAG 方法受限于定义的固定流程，难以有效激活模型的推理能力。
Claude发布MCP网页版本集成和Research，正式开启开挂模式。全面基于远程 MCP 的集成现已面向所有付费 Claude.ai 方案开放（包括 Pro 版用户），提供将 Claude 连接到各种工具和数据源的能力。
你好研究僧，听说刚刚中了顶会，却还在愁怎么做Poster（学术海报）？
