AI资讯新闻榜单内容搜索-Al

关键词: AI,机器学习,模型训练,扩散模型

怎样才能将可爱又迷人的柯基与柴犬的图像进行区分？

关键词: Scaling law,腾讯混元,模型训练,AI,人工智能

过去十年间，基于随机梯度下降（SGD）的深度学习模型在许多领域都取得了极大的成功。与此同时各式各样的 SGD 替代品也如雨后春笋般涌现。在这些众多替代品中，Adam 及其变种最受追捧。无论是 SGD，还是 Adam，亦或是其他优化器，最核心的超参数非 Learning rate 莫属。因此如何调整好 Leanring rate 是炼丹师们从一开始就必学的技能。

关键词: Ilya,openai,chatGPT,AI安全,AI

OpenAI前员工Leopold Aschenbrenner，之前在超级对齐（Superalignment）部门，可是能和Ilya大佬共事的。

关键词: 李飞飞,人工智能,AI科学家,AI

要怎么介绍李飞飞？

关键词: LLaMa 3,数据集,模型训练,Karpathy,LLM

众所周知，对于 Llama3、GPT-4 或 Mixtral 等高性能大语言模型来说，构建高质量的网络规模数据集是非常重要的。然而，即使是最先进的开源 LLM 的预训练数据集也不公开，人们对其创建过程知之甚少。

关键词: 模型训练,Scaling law,数据集,AI,大模型

一般而言，训练神经网络耗费的计算量越大，其性能就越好。在扩大计算规模时，必须要做个决定：是增多模型参数量还是提升数据集大小 —— 必须在固定的计算预算下权衡此两项因素。

关键词: Scaling law,模型训练,openai,AI

Scaling law发展到最后，可能每个人都站在一个数据孤岛上。

关键词: FinalSpark,脑PU,LLaMa 65B,生物处理器

首个“脑PU”来了！由“16核”类人脑器官（human brain organoids）组成。

关键词: 机器学习,AI,脑机接口,Neuralink

在脑机接口领域取得突破性进展的公司不止Neuralink一家。Precision Neuroscience发布公告称，他们采用与Neuralink不同的技术路径，在人脑上成功放置了4096个电极，打破了去年2048个电极的最高纪录。

关键词: Mixtral,Llama 3,Phi-3,OpenELM,大模型

深度学习领域知名研究者、Lightning AI 的首席人工智能教育者 Sebastian Raschka 对 AI 大模型有着深刻的洞察，也会经常把一些观察的结果写成博客。在一篇 5 月中发布的博客中，他盘点分析了 4 月份发布的四个主要新模型：Mixtral、Meta AI 的 Llama 3、微软的 Phi-3 和苹果的 OpenELM。