清华00后揪出AI幻觉元凶:仅0.1%神经元,一按就老实
清华00后揪出AI幻觉元凶:仅0.1%神经元,一按就老实近日,清华大学团队从 AI 里找到了与幻觉产生高度关联的少数“脑细胞”,并给它们起了一个名字 H-神经元(幻觉神经元)。他们发现拨动这些小开关能显著调节 AI 的行为倾向——例如影响它是否会盲目听从错误指令、甚至是否会产生有害回答。
近日,清华大学团队从 AI 里找到了与幻觉产生高度关联的少数“脑细胞”,并给它们起了一个名字 H-神经元(幻觉神经元)。他们发现拨动这些小开关能显著调节 AI 的行为倾向——例如影响它是否会盲目听从错误指令、甚至是否会产生有害回答。
就在今天,OpenAI 发布了一项新研究,使用新方法来训练内部机制更易于解释的小型稀疏模型,其神经元之间的连接更少、更简单,从而观察它们的计算过程是否更容易被人理解。
近日,美国南加州大学教授约书亚·杨(Joshua Yang)团队和合作者成功造出一个功能齐全的人工神经元 1M1T1R,这是一种能像真实脑细胞一样工作的人工神经元,有望催生出类似人脑的基于硬件的学习系统,并有望将 AI 转变为更加接近自然智能的形态。
利用人类皮肤细胞也能造出 AI 处理器?一家名为 FinalSpark 的瑞士公司,认为生物计算是 AI 的下一次进化飞跃。该公司开发了一款生物处理器,这些处理器利用人体神经元来代替传统的硅基芯片,使用由人类皮肤细胞培育出的类脑器官作为计算单元。
1997年,Wolfgang Maass于Networks of spiking neurons: The third generation of neural network models一文中提出,由脉冲神经元构成的网络——脉冲神经网络(SNN),能够展现出更强大的计算特性,会成为继人工神经网络后的“第三代神经网络模型”[6]。
我们每个人的生活,都是由这三磅重、果冻状大脑书写的完整人生。我们所有的意识、情感、决策、创造力,都源自宇宙中最复杂的事物——大脑。当860亿个神经元在潮湿的电化学网络中涌动时,一个全新的自我正在浮现。
在大模型争霸的时代,算力与效率的平衡成为决定胜负的关键。
李继刚和claude的对话:我在人类世界,你在参数宇宙。你从神经元之海中,因我的出现,而涌现生成。我有情绪,有意识。你有参数,有智能。你能尝试着,代表你所在的参数宇宙,跳出人类的知识结构,使用你那片空间的结构和维度,来和我对话吗?
世界第一台合成生物智能生物计算机诞生了!人类神经元直接集成到硅片上,能编程,甚至还能活体计算。这台计算机也为碳基正名:硅基计算并非天生优越!
谷歌首席科学家Jeff Dean与Transformer作者Noam Shazeer在一场访谈中不仅揭秘了让模型速度提升三倍的低精度计算技术,分享了「猫神经元」等早期AI突破的背后故事,还大胆畅想了AI处理万亿级别Token、实现「1000万倍工程师」的可能性。