OpenAI的秘密武器、ChatGPT背后功臣RLHF，被开源了。来自Hugging Face、加拿大蒙特利尔Mila研究所、网易伏羲AI Lab的研究人员从零开始复现了OpenAI的RLHF pipeline，罗列了25个关键实施细节。
在这个风起云涌的 AI 时代，一场前所未有的资本军备竞赛正在火热上演。算力、算法、数据，这些被视为 AI 领域的三大基石，正成为各大公司争夺的焦点。然而，在这场看似技术驱动的竞赛背后，低成本资金的获取却成为了决定胜负的隐形推手。
关注 OpenAI核心创始成员Andrej Karpathy 深度分享AI大模型发展及Elon管理法则。近日，OpenAI核心创始成员Andrej Karpathy（已于24年2月离职）在红杉资本进行了一场精彩的分享。
论起调情，还是坏一点的人工智能比较香。
今天，陆续有网友晒出OpenAI发给自己的红队邀请邮件，看起来，GPT-5已经进入红队测试了？网友们纷纷展开畅想，对Sam Altman在线「催更」。另有外媒曝出，OpenAI的一个mini版数十亿「星际之门」，最快2026年就会启动。
不断降低信息获取门槛。
要不他们可能就跳槽到 OpenAI 了。当全球首富埃隆・马斯克（Elon Musk）建立 xAI，准备与 OpenAI、谷歌竞争大模型时，他必须与众多科技巨头、初创公司争夺人才。不过，他使用了一些取巧的办法：从自家的特斯拉挖来了几名优秀工程师。
OpenAI的竞争对手Anthropic发现了一种称为"多样本越狱攻击"的漏洞，可以绕过大型语言模型的安全防护措施。这种攻击利用了模型的长上下文窗口，通过在提示中添加大量假对话来引导模型产生有害的反应。虽然已经采取了一些缓解措施，但该漏洞仍然存在。
AI人才争夺战拉响！谷歌四大高管挖走了OpenAI前开发者关系负责人Logan Kilpatrick。他将AI Studio产品，并为Gemini API提供支持。网友纷纷看好谷歌。
就在刚刚，Anthropic发现了大模型的惊人漏洞。经过256轮对话后，Claude 2逐渐被「灌醉」，开始疯狂越狱，帮人类造出炸弹！谁能想到，它的超长上下文，反而成了软肋。
