让AI与人类“目标一致”：一个不可回避的难题
让AI与人类“目标一致”：一个不可回避的难题人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。
来自主题: AI技术研报
6096 点击 2023-10-12 10:15
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。
随着生成式人工智能（AI）能力的提高，模型能够生成的图像和媒体也越来越逼真，这使得辨别哪些是真实的，哪些是人工智能生成的越来越具有挑战性。
今天，Adobe 在 Adobe MAX 主题演讲上发布了人工智能工具 Firefly 的 Image 2 模型，更新内容包括完全可编辑的矢量图像生成，以及将人工智能创建的图像风格化以符合特定审美的功能。
AI动嘴的时代，创意文稿谁还用手写。上海人工智能实验室推出了首个图文混合创作大模型「书生·浦语灵笔」，三步就能生成图文并茂的神作，现正式开源。
过去十年，关于人工智能（AI）的研究论文数量在各个领域都有显著增加。 科学家们已经开始运用 AI 工具来协助总结和撰写研究论文和编写代码。
今年3月人工智能ChatGPT火爆全网，AI行业一度备受关注。而当风口兴起，从大厂到“新一线厂”求贤若渴，不少求职者也争相涌入赛道。
美国在这次生成式人工智能的热浪中独占鳌头，获得了全球投融资的89%，但在AI芯片的投融资中，中国领先世界。
2023 年世界太空周（World Space Week 2023）即将到来，在太空时代庆祝其 66 周年之际，太空网（Space.com）将关注人工智能（AI）的现状及其对天文学和太空探索的影响
大自然花了数十亿年才演化出第一种能够行走的物种，但新算法将进化过程压缩到了极速——在短短几秒钟内设计出了一个成功行走的机器人。
全栈人工智能（AI）公司耐能（Kneron）宣布获得由富士康、HH-CTBC Partnership（富士康Co-GP基金）和Alltek等投资的4900万美元的战略融资，使其B轮融资总额达到9700万美元。