AI资讯新闻榜单内容搜索-翁荔

关键词: AI,翁荔,RLHF,OpenAI

之前领导OpenAI安全团队的北大校友翁荔（Lilian Weng），离职后第一个动作来了。当然是发～博～客。这次的博客一如既往万字干货，妥妥一篇研究综述，翁荔本人直言写起来不容易。主题围绕强化学习中奖励黑客（Reward Hacking）问题展开，即Agent利用奖励函数或环境中的漏洞来获取高奖励，而并未真正学习到预期行为。

关键词: 翁荔,openai,AI安全,人工智能

翁荔的技术博客深入、细致，具有前瞻性，被很多 AI 研究者视为重要的参考资料。如今，她离开了 OpenAI，开启新的征程。而且她表示，之后可能有更多时间频繁更新博客。

关键词: AI,openai,翁荔,chatGPT

OpenAI研究副总裁（安全）翁荔（Lilian Weng），现身国内！ 还首次在国内大型活动场合公开发表AI主题演讲。