FP8模型不再挑卡！DeepSeek推理成本减半速度翻番，清华团队开源「赤兔」推理引擎
FP8模型不再挑卡！DeepSeek推理成本减半速度翻番，清华团队开源「赤兔」推理引擎「国产大模型 + 国产引擎 + 国产芯片」的完整技术闭环正在加速形成。
来自主题: AI资讯
8137 点击 2025-03-14 15:45
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
「国产大模型 + 国产引擎 + 国产芯片」的完整技术闭环正在加速形成。
近些年，大模型的发展可谓是繁花似锦、烈火烹油。从 2018 年 OpenAI 公司提出了 GPT-1 开始，到 2022 年底的 GPT-3，再到现在国内外大模型的「百模争锋」，DeepSeek 异军突起，各类大模型应用层出不穷。
“发财了，一个视频回本，收益300多。”一位群友在群里发布了自己的视频号截图。另一位群友不语，只是发布了自己同话题的视频，显示收益800多。
近日，记者发现，国内权威医疗大模型评测平台MedBench在官网更新了榜单。多个医疗AI产品及研究团队入榜，其中蚂蚁AI健康管家团队研发的蚂蚁医疗大模型以评测榜单97.5、自测榜单98.2的高分再度夺得双料冠军。
在实际应用过程中，闭源模型（GPT-4o）等在回复的全面性、完备性、美观性等方面展示出了不俗的表现。
DiffRhythm是一款新型AI音乐生成模型，能在10秒内生成长达4分45秒的完整歌曲，包含人声和伴奏。它采用简单高效的全diffusion架构，仅需歌词和风格提示即可创作，还支持本地部署，最低只需8G显存。
为了解决视频编辑模型缺乏训练数据的问题，本文作者（来自香港中文大学、香港理工大学、清华大学等高校和云天励飞）提出了一个名为 Señorita-2M 的数据集。该数据集包含 200 万高质量的视频编辑对，囊括了 18 种视频编辑任务。
只要微调模型生成的前8-32个词，就能让大模型推理能力达到和传统监督训练一样的水平？
微软宣布将在2027年底前追加投资54亿兰特（约2.97亿美元），扩大其在南非的云计算和人工智能（AI）基础设施，以满足Azure 云服务在该地区不断增长的需求。此外，该公司还计划为5万名南非学员提供云架构、人工智能和网络安全等高需求技能的认证考试费用，以助力本地人才发展。
一期长达5小时的播客，究竟谁在听？MIT人工智能研究员、知名播客主持人及科技传播者Lex Fridman的对谈节目《Lex Fridman Podcast》近期推出了有关DeepSeek的一期内容： 截至3月7日，这一期节目在YouTube上获得了178万播放量和2.5万like（点赞），对DeepSeek所代表的AI大模型革新的解读，获得了大量科技界、商界从业者的关注。