手机流畅运行470亿大模型：上交大发布LLM手机推理框架PowerInfer-2，提速29倍
手机流畅运行470亿大模型：上交大发布LLM手机推理框架PowerInfer-2，提速29倍苹果一出手，在手机等移动设备上部署大模型不可避免地成为行业关注焦点。
来自主题: AI技术研报
7871 点击 2024-06-12 15:33
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
苹果一出手，在手机等移动设备上部署大模型不可避免地成为行业关注焦点。
一个常被许多领导者引用、但很可能是被杜撰出来的名言是：“外行谈战略和战术，内行谈运营。”战术视角看到的是一个个独特的难题，而运营视角看到的是组织中需要需要改变的不协调的模式。战略视角看到的是机会，运营视角则看的是挑战。
6 月 11 日的 WWDC，所有人的关注重点都在 Apple 的 AI 功能如何落地上，在经历了前一个小时的各种系统更新的介绍后（甚至包括 iPad 上发布计算器），总算是等来了 Apple 的 AI 大更新，虽说与之前的预测文章所差无几，但还是有颇多亮点。
WWDC 上，苹果终于发布了自己的 AI 功能——苹果智能（Artificial Intelligence），苹果、微软和谷歌在 AI 落地上的不同策略也可见一斑，有些选择集成，有些选择了模块化。 为什么会这么选？哪种策略可能赢得未来？
古代中国是一个“万般皆下品，唯有读书高”的社会，尽管民众对读书多的人很佩服并不仅仅是因为学问，更因为读书可以当官。
马斯克狂喷苹果出卖用户数据，威胁公司禁用苹果设备，访客也不能带！
有了Adobe Firefly，对于专业人士而言显然不是个好消息。
近来，国产AI视频模型强大生成能力震惊了国外网友。刚刚，中国首个超长时长、高性价比、端侧可用的Sora级视频模型诞生了，由国产黑马联手清华打造。与别家出发点不同之处在于，这是为了实现世界模型而创建的AI视频模型。
大模型执行图推理任务，我们是希望大模型仅仅给出结果，还是在给出准确答案的同时，输出详细的推理过程？
人工智能应用的兴起推动了对算力和存储容量的需求。对企业、个人和政府而言，以安全的方式处理和存储这些数据至关重要。这意味着，对先进数据中心的需求将不断增长，我们认为这提供了具吸引力的投资机会——无论是在数据中心本身还是其所依赖的基础设施方面。