阿里智能化研发起飞!RTP-LLM 实现 Cursor AI 1000 token/s 推理技术揭秘
阿里智能化研发起飞!RTP-LLM 实现 Cursor AI 1000 token/s 推理技术揭秘RTP-LLM 是阿里巴巴大模型预测团队开发的高性能 LLM 推理加速引擎。它在阿里巴巴集团内广泛应用,支撑着淘宝、天猫、高德、饿了么等核心业务部门的大模型推理需求。在 RTP-LLM 上,我们实现了一个通用的投机采样框架,支持多种投机采样方法,能够帮助业务有效降低推理延迟以及提升吞吐。
RTP-LLM 是阿里巴巴大模型预测团队开发的高性能 LLM 推理加速引擎。它在阿里巴巴集团内广泛应用,支撑着淘宝、天猫、高德、饿了么等核心业务部门的大模型推理需求。在 RTP-LLM 上,我们实现了一个通用的投机采样框架,支持多种投机采样方法,能够帮助业务有效降低推理延迟以及提升吞吐。
2025 年,DeepSeek 爆火带动传统产品的智能化升级,如传统玩具向 AI 玩具转型。央视新闻调查数据显示,2025 年 1 月,国内某电商平台面向 3-6 岁儿童的 AI 早教玩具销量环比增长 6 倍。咨询公司 IMARC 的预测数据显示,2024 年全球 AI 玩具市场规模已达 181 亿美元,预计到 2033 年将增长至 600 亿美元。
在全球AI技术加速重构产业格局的浪潮中,AI for Science(AI4S)赛道明星企业深度原理 Deep Principle 近日正式宣布完成亿元级Pre-A轮战略融资,本轮投资方包括联想创投、联想之星、锦秋基金、BV百度风投、启高资本,公司股东高瓴创投与线性资本持续追加投资,明德资本担任独家财务顾问。
以业务解构技术,搭好数据“地基”。
近日,开立医疗成功获得了国内首个产前超声人工智能医疗器械证。这一历史性的突破奠定了开立医疗在医疗行业智能化领域的先锋地位。
当前,企业普遍认同智能化是构建其核心竞争力的重要支柱。AI技术未来将深刻融入企业业务的方方面面,为营销、研发、生产、服务等环节都带来革命性的效率提升和用户体验优化,以及商业模式上的创新。那些能够将智能化融入企业基因,拥抱智能化的企业,将在未来的竞争中抢得先机,引领行业发展。
灵境AI获种子轮融资,加速AIGC技术与内容出海布局。 国内领先的“AIGC+文创IP”内容生产平台——灵境万维(杭州)智能科技有限公司(以下简称“灵境AI”),近日宣布完成数百万元种子轮融资。本轮融资将主要用于AIGC技术研发迭代、核心团队扩建、内容出海布局、以及加速构建基于AIGC的内容生产和IP孵化生态,进一步巩固其在小说、动漫、微短剧等垂直内容领域的智能化生产优势。
上半场电动化,下半场智能化。智驾不再是遥不可及的稀罕之物。昨晚,比亚迪在深圳总部重磅发布了全民智驾战略。在整车智能战略下,比亚迪构建的「天神之眼」技术矩阵让高阶智驾技术覆盖了全系车型。
WaveForms致力于开发音频大模型(LLMs),通过创新的端到端音频处理技术,实现更加实时、类人化且情感智能化的语音交互。与传统语音模型不同,WaveForms的音频模型不是语音转文本再转语音,而是能够直接处理音频,实现更自然的对话和情感互动。
AI正往行业深处进发,尤其是以往自动化和智能化程度较低的制造业。