搜索
MoE（混合专家）作为当下最顶尖、最前沿的大模型技术方向，MoE能在不增加推理成本的前提下，为大模型带来性能激增。比如，在MoE的加持之下，GPT-4带来的用户体验较之GPT-3.5有着革命性的飞升。
AI绘画王者Midjourney，开始进军硬件领域！它家已经从苹果挖来Vision Pro工程师担任主管，官方秘而不宣，但消息不胫而走。
最近，复旦、俄亥俄州立大学、Meta和宾夕法尼亚州立大学的研究者发现，GPT-4 Agent规划旅行只有0.6%成功率！离在人类复杂环境中做出规划，智能体还任重道远。
今天，穆罕默德・本・扎耶德人工智能大学 VILA Lab 带来了一项关于如何更好地为不同规模的大模型书写提示词（prompt）的研究，让大模型性能在不需要任何额外训练的前提下轻松提升 50% 以上。该工作在 X (Twitter)、Reddit 和 LinkedIn 等平台上都引起了广泛的讨论和关注。
前不久，美国商务部出了一份《采取额外措施应对与重大恶意网络行为相关的国家紧急状态》提案，提出：禁止中国公司使用美国的云计算资源来训练AI模型。这相当于AI芯片禁运的“补丁”。美国商务部长吉娜·雷蒙多在采访时提到，美国的云数据中心也大量使用AI芯片，而美国对芯片实施了出口管制，也必须考虑关闭这条路径。
2月1日，此前在大模型领域一直保持“静默”状态的字节跳动终于有了新动作，其上线了“Coze扣子”AI Bot开发平台；与过往聊天机器人的形式不同，“扣子”更像是2023年11月Open AI发布的GPTs，可以让用户通过聊天、调用插件等方式，创建个人定制版Bot，实现“0代码”开发
模型通过学习这些 token 的上下文关系以及如何组合它们来表示原始文本或预测下一个 token。
2023 年，大模型与生成式 AI 的崛起无疑成为了技术领域的焦点。在这一年里，大模型和生成式 AI 的讨论持续“破圈”，各类商用大模型和开源大模型的发布和更新将技术创新推向了新的高峰，相关产品不断发布。
有的大模型对齐方法包括基于示例的监督微调（SFT）和基于分数反馈的强化学习（RLHF）。然而，分数只能反应当前回复的好坏程度，并不能明确指出模型的不足之处。相较之下，我们人类通常是从语言反馈中学习并调整自己的行为模式。
今天的中国发展通用人工智能，是势在必行的事，“宜将剩勇追穷寇，不可沽名学霸王”。那么，大模型真的到了打扫战场的时候吗？这个掀起了全球新一轮风险投资热潮的产品创新，到底是茶叶蛋，还是原子弹？