搜索
最近，Anthropic的研究者发现：一旦我们教会LLM学会骗人，就很难纠正它了。它会在训练过程中表现得「人畜无害」，随后神不知鬼不觉地输出恶意代码！如果想要纠正它，它的欺骗行为只会更变本加厉。
最近，AI初创公司Anthropic的研究表明，一旦LLM学会了人类教授的欺骗行为，它们就会在训练和评估的过程中隐藏自己，并在使用时偷偷输出恶意代码、注入漏洞。
ChatGPT、OpenAI这两个名字无疑是2023年科技圈最为炙手可热的存在，但投入AI大模型赛道的显然远远不止OpenAI一家，例如谷歌有Gemini、Meta有开源的Llama 2、亚马逊也有Titan。
人们一方面期待xAI如何走出一条区别于OpenAI的路，另一面也对马斯克所描绘的愿景抱有困惑，毕竟OpenAI珠玉在前，马斯克如何解决人工智能的安全问题，在商业化与伦理中找到更好的解决方案？
前段时间的董事会风波还没散尽，OpenAI就在12月的开头自己搞了波热度，
2023年，计算机领域都发生了哪些大事？Quanta Magazine的年终盘点来了。
圣诞将近，OpenAI推出SantaGPT，AI助力挑选礼物，彻底解决选择困难！2024的最后一个月，来自圣诞老人GPT的暖心陪伴
Anthropic的模型可解释性团队，从大模型中看到了它的「灵魂」——一个可解释的更高级的模型。
月初刚测了GPT-4 Turbo上下文真实实力的大神Greg Kamradt又盯上了Anthropic刚更新的Claude 2.1。他自己花了1016刀测完之后显示，Claude 2.1在上下文长度达到90K后，性能就会出现明显下降。
OpenAI assistant API 在代码解释和知识检索方面颠覆了AI Agent领域。assistant API的代码解释器功能是一个强大的工具，能够从代码执行生成各种文件类型，如图片和 CSV 文件。例如，当创建图像图表时，开发者可以通过助手消息响应中的 file_id 字段轻松访问它。这种无缝集成方便了生成内容的下载，无需额外操作。