自回归（AR）范式凭借将语言转化为离散 token 的核心技术，在大语言模型领域大获成功 —— 从 GPT-3 到 GPT-4o，「next-token prediction」以简单粗暴的因果建模横扫语言领域。
经过对多种开源存储系统的评估对比，我们选择了 JuiceFS 。我们的架构采用 Redis 进行高性能元数据管理，同时构建了自有 MinIO 集群作为底层对象存储，这一架构完美解决了模型训练场景中的数据读写瓶颈、元数据访问延迟以及计算资源之间的存储互通问题。
前谷歌 CEO&董事长 Eric Schmidt 近日在 TED 上表示， AI 被严重低估了，它不仅是语言工具，而是未来战略规划、科学发现乃至国家安全与地缘政治格局的核心力量。
AI宝宝说话视频（AI talking baby）正在席卷TikTok。最近，在X和TikTok等海外社交媒体平台上，有一个非常火爆的AI内容创作趋势，那就是AI baby podcast（AI宝宝播客）。相关视频动辄超千万播放，几十万乃至上百万的点赞，一些专门制作此类内容的账号也迅速蹿红，其中一个代表性账号“babypodcast”，13天涨粉超22万。
近日，腾讯 PCG 社交线的研究团队针对这一问题，采用强化学习（RL）训练方法，通过分组相对策略优化（Group Relative Policy Optimization, GRPO）算法，结合基于奖励的课程采样策略（Reward-based Curriculum Sampling, RCS），将其创新性地应用在意图识别任务上，
和人工标记数据说拜拜，利用预训练语言模型中的注意力机制就能选择可激发推理能力的训练数据！
R1 横空出世，带火了 GRPO 算法，RL 也随之成为 2025 年的热门技术探索方向，近期，字节 Seed 团队就在图像生成方向进行了相关探索。
字节拿出了国际顶尖水平的视觉–语言多模态大模型。
随着生成式人工智能技术的飞速发展，合成数据正日益成为大模型训练的重要组成部分。未来的 GPT 系列语言模型不可避免地将依赖于由人工数据和合成数据混合构成的大规模语料。
5月13日，在 FORCE LINK AI 创新巡展·上海站，火山引擎发布豆包·视频生成模型 Seedance 1.0 lite、豆包1.5·视觉深度思考模型，升级豆包·音乐模型。同时，Data Agent 正式亮相、Trae 接入豆包深度思考模型并全新升级。火山引擎正在以更强大的模型矩阵、更丰富的智能体工具，帮助企业打通从业务到智能体的应用链路。
