ChatGPT如何「思考」？心理学和神经科学破解AI大模型，Nature发文
ChatGPT如何「思考」？心理学和神经科学破解AI大模型，Nature发文美国东北大学的计算机科学家 David Bau 非常熟悉这样一个想法：计算机系统变得如此复杂，以至于很难跟踪它们的运行方式。
来自主题: AI技术研报
10004 点击 2024-05-26 13:53
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
美国东北大学的计算机科学家 David Bau 非常熟悉这样一个想法：计算机系统变得如此复杂，以至于很难跟踪它们的运行方式。
本文介绍了香港科技大学（广州）的一篇关于大模型高效微调（LLM PEFT Fine-tuning）的文章「Parameter-Efficient Fine-Tuning with Discrete Fourier Transform」
为了将大型语言模型（LLM）与人类的价值和意图对齐，学习人类反馈至关重要，这能确保它们是有用的、诚实的和无害的。在对齐 LLM 方面，一种有效的方法是根据人类反馈的强化学习（RLHF）。尽管经典 RLHF 方法的结果很出色，但其多阶段的过程依然带来了一些优化难题，其中涉及到训练一个奖励模型，然后优化一个策略模型来最大化该奖励。
鹅厂搞了个150多人的“翻译公司”，从老板到员工都是AI智能体！ 主营业务是翻译网络小说，质量极高，参与评价的读者认为比真人翻译得还要好。 而且相比于雇佣真人，用它来翻译文学作品，成本降低了近80倍。
几十年来，核聚变释放能量的「精妙」过程一直吸引着科学家们的研究兴趣。 现在，在普林斯顿等离子体物理实验室（PPPL）中 ，科学家正借助人工智能，来解决人类面临的紧迫挑战：通过聚变等离子体产生清洁、可靠的能源。 与传统的计算机代码不同，机器学习不仅仅是指令列表，它可以分析数据、推断特征之间的关系、从新知识中学习并适应。
第一个以「泛化」能力为核心设计原则的可学习图像匹配器来了！
本文由GreenBit.AI团队撰写，团队的核心成员来自德国哈索·普拉特纳计算机系统工程院开源技术小组。我们致力于推动开源社区的发展，倡导可持续的机器学习理念。我们的目标是通过提供更具成本效益的解决方案，使人工智能技术在环境和社会层面产生积极影响。
既能像 Transformer 一样并行训练，推理时内存需求又不随 token 数线性递增，长上下文又有新思路了？
一直以来 AI 都是一个黑盒子（black box），其内部运作机制是不可见的。人们输入数据并得到结果，但无法检查输出结果的逻辑或者系统的代码。 而就在刚刚，Anthropic 宣布在理解人工智能模型内部运作机制方面取得重大进展。
在人工智能的辉煌历史中，Geoffrey Hinton教授不仅是深度学习的奠基人之一，更是推动了整个领域从理论到实践的转变。在这次深入的访谈中，Geoffrey Hinton分享了自己在人工智能研究中的个人经历、对深度学习未来发展的深刻见解，以及对当前技术可能带来的社会影响的深思熟虑。
关节置换手术被称为骨科的“世纪手术”。
以 OpenAI 的 GPT 系列模型为代表的大语言模型（LLM）掀起了新一轮 AI 应用浪潮，但是 LLM 推理的高昂成本一直困扰着业务团队。
在 AI 领域，扩展定律（Scaling laws）是理解 LM 扩展趋势的强大工具，其为广大研究者提供了一个准则，该定律在理解语言模型的性能如何随规模变化提供了一个重要指导。
在多标签图像识别领域中，由于图像本身和潜在标签类别的复杂性，收集满足现有模型训练的多标签标注信息往往成本高昂且难以拓展。中山大学联合广东工业大学联手探索标注受限情况下的多标签图像识别任务，通过对多标签图像中的强语义相关性的探索研究，提出了一种异构语义转移(Heterogeneous Semantic Transfer, HST) 框架，实现了有效的未知标签生成。
5月22日，全球资本市场的“大网红”英伟达发布了2025财年第一财季（截至2024年4月28日）的报告。
在图像生成领域占据主导地位的扩散模型，开始挑战强化学习智能体。
本文讨论了大模型厂商的降价现象，并分析了其背后的技术和商业动机。
近年来，「scaling」是计算机视觉研究的主角之一。随着模型尺寸和训练数据规模的增大、学习算法的进步以及正则化和数据增强等技术的广泛应用，通过大规模训练得到的视觉基础网络（如 ImageNet1K/22K 上训得的 Vision Transformer、MAE、DINOv2 等）已在视觉识别、目标检测、语义分割等诸多重要视觉任务上取得了令人惊艳的性能。
AI服务器与传统服务器相比，究竟有何独特之处？ 在当今社会，人工智能的应用场景愈发广泛，如小爱同学、天猫精灵等AI服务已深入人们的生活。随着人工智能时代的来临，AI服务器也开始在社会各行业发挥重要作用。那么，AI服务器与传统服务器相比，究竟有何独特之处？为何AI服务器能在人工智能时代中逐渐取代普通服务器，成为主流呢？
它们不仅仅是技术的展示，更是AI赋能千行百业的生动例证。
近日，西交微软北大联合提出信息密集型训练大法，使用纯数据驱动的方式，矫正LLM训练过程产生的偏见，在一定程度上治疗了大语言模型丢失中间信息的问题。
微软昨夜刚上演了一波AI PC革命，今天又全是Copilot。而最让人意外的，竟是奥特曼本人登台预告了下一代模型将会带来新的模态和整体智能。
近日，又一惊人结论登上Hacker News热榜：没有指数级数据，就没有Zero-shot！多模态模型被扒实际上没有什么泛化能力，生成式AI的未来面临严峻挑战。
Llama 3发布一个月后，一位开发者在GitHub上创建了名为「从头开始实现Llama 3」的项目，引起了开源社区的广泛关注。代码非常详细地展现了Llama所使用的Transformer架构，甚至让Andrej Karpathy亲自下场「背书」。
2023年3月的一天，美国政府的科技政策顾问Arati Prabhakar带着一台笔记本电脑走进了白宫的椭圆形办公室，向80岁的总统拜登展示了如何使用ChatGPT。
大模型的风，吹进中小学了。
大数据巨头Databricks与哥伦比亚大学最新研究发现，在数学和编程任务上，LoRA干不过全量微调。
此次，苹果提出的多模态大语言模型（MLLM） Ferret-UI ，专门针对移动用户界面（UI）屏幕的理解进行了优化，其具备引用、定位和推理能力。
当计算预算低时，重复使用高质量数据更好；当不差钱时，使用大量数据更有利。
为了能让自己以后更好地摸鱼，我上周第一次和大模型协作，完成了对一份财报的分析。