神经网络通常由三部分组成：线性层、非线性层（激活函数）和标准化层。线性层是网络参数的主要存在位置，非线性层提升神经网络的表达能力，而标准化层（Normalization）主要用于稳定和加速神经网络训练，很少有工作研究它们的表达能力，例如，以Batch Normalization为例
在盖茨眼里，AI对于计算机交互的革命还没来到，但是Scaling Law似乎已经看到尽头了。
Gen-3 Alpha终于开启测试了！第一时间拿到内测资格的网友们，纷纷放出各种炸裂的demo，看得出Gen-3在生成质量完全跃升。不过，模型有时无法理解物理世界的缺陷，依然存在。
本文根据极客公园创始人&总裁 张鹏在 Founder Park AGI Palyground 2024 上的演讲整理。
自从大模型爆火以来，语义检索也逐渐成为一项热门技术。尤其是在 RAG（retrieval augmented generation）应用中，检索结果的相关性直接决定了 AI 生成的最终效果。
字节跳动探索AI硬件业务，屡试不舍。
背后“包工头”，身价估值过百亿美元。
MSK领域AI结合数字医疗方案快速发展。
前Meta老将开发蛋白质生成式AI模型 ESM3。
只需几分钟、一张图或一句话，就能完成时空一致的4D内容生成。
