量化能让大模型“恢复记忆”，删掉的隐私版权内容全回来了，SU哈佛亚马逊最新研究引热议
量化能让大模型“恢复记忆”，删掉的隐私版权内容全回来了，SU哈佛亚马逊最新研究引热议4-bit量化，能让现有反学习/机器遗忘技术失灵！
来自主题: AI技术研报
6253 点击 2024-11-16 16:02
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
4-bit量化，能让现有反学习/机器遗忘技术失灵！
今日凌晨，Stability AI 发布了 Stable Diffusion 3.5 的提示指南。该指南提供了 Stable Diffusion 3.5 的实用提示技巧，让使用者能够快速准确地完善图像概念，更好地使用 Stable Diffusion 3.5 这一在可定制性、高效性能、多样化输出和多功能风格方面均表现出色的模型。
消除激活值(outliers)，大语言模型低比特量化有新招了—— 自动化所、清华、港城大团队最近有一篇论文入选了NeurIPS 2024（Oral Presentation），他们针对LLM权重激活量化提出了两种正交变换，有效降低了outliers现象，达到了4-bit的新SOTA。
Bifröst 是一个创新的3D感知图像合成框架，它利用扩散模型来执行基于语言指令的图像合成任务。
2024 年，人形机器人领域迎来爆发式增长。特斯拉 Optimus 的持续迭代、OpenAI 对 1X 的战略投资，众多初创公司异军突起，以及包括 Mobile ALOHA 在内学术界的不断创新，共同描绘出一幅激动人心的未来图景。
随着2024年生成式AI大爆发，推理端成本呈指数级激增，推动了泛智能硬件端持续增长，“端云混合AI部署”模式正走向主流，端侧智能则加速了终端“换机热潮”：AI PC、AI手机、AIoT设备、智能座舱。
2024年诺贝尔物理学奖和诺贝尔化学奖于10月揭晓，获奖者分别为美国科学家约翰·J·霍普菲尔德（John J.Hopfield）与英国科学家杰弗里·E·辛顿（Geoffrey E.Hinton），以及美国生物化学家大卫·贝克（David Baker）和谷歌旗下DeepMind公司AI科学家德米斯·哈萨比斯（Demis Hassabis）和约翰·江珀（John M.Jumper）。
今年的诺奖将物理和化学两个领域的奖项都颁给了AI成果，这究竟代表着怎样的含义，又会产生怎样的影响？Demis Hassabis在本次专访中提出了自己的见解。
就在刚刚，Stability AI发布了自家最强的模型Stable Diffusion 3.5，而且是一个全家桶，包含三个版本。
据TechCrunch 报道，One Zero是一家旨在利用人工智能提供零售银行服务的金融科技公司，正在筹集至少 1 亿美元。