AI资讯新闻榜单内容搜索-AI安全

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: AI安全
尤瓦尔·赫拉利:AI真正的威胁,是官僚而不是终结

尤瓦尔·赫拉利:AI真正的威胁,是官僚而不是终结

尤瓦尔·赫拉利:AI真正的威胁,是官僚而不是终结

在这个信息爆炸的时代,故事的讲述出现了前所未有的变革。人工智能(AI)的出现,不仅改变了故事的生产方式,更在根本上挑战着人类对认知、真相与现实的理解。当AI能够自主生成内容、塑造叙事,我们的个人认知和社会走向将何去何从?

来自主题: AI资讯
6313 点击    2024-12-26 15:23
Mindgard获得800万美元融资,推动AI安全测试技术发展

Mindgard获得800万美元融资,推动AI安全测试技术发展

Mindgard获得800万美元融资,推动AI安全测试技术发展

Mindgard 宣布完成800万美元的融资,旨在加速其研发进程,并推动其在美国市场的扩展。此次融资由.406Ventures 领投,参与投资的还有 Atlantic Bridge、Willowtree Investments 及现有投资者 IQ Capital 和 Lakestar。同时,Mindgard 还任命了两位行业领军人物,分别担任产品负责人和市场副总裁,以强化公司的产品开发和市场推广。

来自主题: AI资讯
3946 点击    2024-12-26 14:10
是时候停止炒作「o3是AGI」了!背后15人安全对齐团队大盘点

是时候停止炒作「o3是AGI」了!背后15人安全对齐团队大盘点

是时候停止炒作「o3是AGI」了!背后15人安全对齐团队大盘点

我们或许可以称o3是「更高级的推理AI」,而远不是AGI。 昨天凌晨,OpenAI 连续 12 天发布会终于落下了帷幕,并甩出了最强大的推理模型 o3 系列!

来自主题: AI资讯
7419 点击    2024-12-23 10:10
“查到自己学号的那一刻我心跳停了”|建议AI公司迅速自查

“查到自己学号的那一刻我心跳停了”|建议AI公司迅速自查

“查到自己学号的那一刻我心跳停了”|建议AI公司迅速自查

以前我们总说:比你更了解你自己的是税务局。现在恐怕还需要变成:比你更了解你自己的,除了税务局,还有AI。

来自主题: AI资讯
7372 点击    2024-12-17 10:39
OpenAI六年元老再发文:全球AI狂飙,我们应该拉手刹还是踩油门?

OpenAI六年元老再发文:全球AI狂飙,我们应该拉手刹还是踩油门?

OpenAI六年元老再发文:全球AI狂飙,我们应该拉手刹还是踩油门?

前段时间离职后留下公开辞职博客的OpenAI六年元老Miles Brundage最近再发一文,讨论了一个相当热门但棘手的问题:当今的AI发展速度,应该加速、减速还是维持现状?

来自主题: AI资讯
6863 点击    2024-12-09 14:41
翁荔离职OpenAI后第一个动作:万字长文探讨RLHF的漏洞,网友们抢着传看

翁荔离职OpenAI后第一个动作:万字长文探讨RLHF的漏洞,网友们抢着传看

翁荔离职OpenAI后第一个动作:万字长文探讨RLHF的漏洞,网友们抢着传看

之前领导OpenAI安全团队的北大校友翁荔(Lilian Weng),离职后第一个动作来了。当然是发~博~客。这次的博客一如既往万字干货,妥妥一篇研究综述,翁荔本人直言写起来不容易。主题围绕强化学习中奖励黑客(Reward Hacking)问题展开,即Agent利用奖励函数或环境中的漏洞来获取高奖励,而并未真正学习到预期行为。

来自主题: AI技术研报
7058 点击    2024-12-03 00:16