警惕 AI“罕见”危险行为！Anthropic 发文：一次评估失败也可能造成灾难性后果
警惕 AI“罕见”危险行为！Anthropic 发文：一次评估失败也可能造成灾难性后果对齐科学的主要目标之一，是在危险行为发生之前，预测人工智能（AI）模型的危险行为倾向。
来自主题: AI资讯
5964 点击 2025-02-27 10:05
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
对齐科学的主要目标之一，是在危险行为发生之前，预测人工智能（AI）模型的危险行为倾向。
一份AI公司死亡名单
Meta的作业不好抄。
近日，在红点创投（Redpoint Venture）的播客“Unsupervised Learning”上，红点创投合伙人Jacob Effron与David Luan进行了一次访谈。他们从技术视角出发，探讨了DeepSeek给大模型领域的研究和实践带来的启示，并围绕AI模型当下瓶颈的思考和潜在的突破方向做了分享。
CNBC 报道称，开发 AI 搜索引擎的 Perplexity 公司，正在筹集 5000 万美元的种子和预种子投资基金。尽管大部分资金来自有限合伙人，但 Perplexity 将部分用于公司发展的资金作为该基金的锚定资本。据报道，Perplexity 在去年 12 月以 90 亿美元的估值筹集了 5 亿美元。
即日起，北京时间每日00:30-08:30为错峰时段，API 调用价格大幅下调：DeepSeek-V3 降至原价的50%，DeepSeek-R1降至25%，在该时段调用享受更经济更流畅的服务体验。具体价格参看图2.
Claude 3.7 Sonnet制作的游戏中，贪吃蛇居然惊现自我意识，甚至经历了一场存在主义危机！它开始思考：我是谁？我在这里做什么？网友们大受震撼：要是游戏里有这样的NPC，那就绝了。
当AI开始普及时，什么行业会最先受到影响？这个问题在过去曾经引起过不少争议，不过现在或许已经有了答案：翻译。近日，腾讯宣布将关停旗下的腾讯翻译君业务，包括app、在线网站和小程序都将在3月13日11:00正式关停，后续不再提供任何在线服务，并将删除所有用户的个人信息。
相较于阿里、京东等电商老大哥在AI大模型布局上的如火如荼，有黑马之称的拼多多却失声了。 这两年来，拼多多不仅在AI大模型上没有大动作，即便是在国内外公司热火朝天接入Deepseek的当下，拼多多也“稳如泰山”，丝毫没有要凑热闹的意思。
部署 DeepSeek 系列模型，尤其是推理模型 DeepSeek-R1，已经成为一股不可忽视的潮流。