LLM 强大的语言能力，使其被广泛部署于 LLM 应用系统（LLM-integrated applications）中。此时，LLM 需要访问外部数据（如文件，网页，API 返回值）来完成任务。
pentagramdesign （五角设计公司）是全球知名的创意设计公司，最近该公司使用 AI工具Midjourney ，创作了1000个图标，引发了外网设计师群体的吐槽。
将知识图谱技术与RAG有机结合的GraphRAG可谓是今年下半年来的LLM应用领域的一个热点，借助大模型从非结构化文本数据创建知识图谱与摘要，并结合图与向量索引技术来提高对复杂用户查询的检索增强与响应质量。
不管是编写和调试代码，还是通过函数调用来使用外部工具，又或是控制机器人，都免不了需要 LLM 生成结构化数据，也就是遵循某个特定格式（如 JSON、SQL 等）的数据。 但使用上下文无关语法（CFG）来进行约束解码的方法并不高效。针对这个困难，陈天奇团队提出了一种新的解决方案：XGrammar。
关于产业进展，代码辅助工具，PearAI ，https://trypear.ai/，提供了代码自动生成、智能代码预测、代码编辑聊天、代码记忆提升、智能代码搜索等功能，还内置了Perplexity、Memo等其他AI工具，这其实加剧了如cursor等同质产品的竞争。
在今天的Ignite开发者大会上，微软发布了两款专为其数据中心基础设施设计的新芯片：Azure Integrated HSM和Azure Boost DPU。
自从生成式 AI 和 LLM 在世界舞台上占据中心位置以来，员工们一直在思考如何最好地将这些变革性的新工具应用于他们的工作流程。然而，他们中的许多人在尝试将生成式 AI 集成到企业环境中时遇到了类似的问题，例如隐私泄露、缺乏相关性以及需要更好的个性化结果。
如今，人们选择餐厅，多半会打开app搜索一番，再看看排名。然而美国奥斯汀的一家餐厅Ethos，社交媒体instagram宣称它是当地排名第一，拥有7万余粉丝。但这家看起来很靠谱的餐厅根本不存在，食物和场地的照片都由人工智能生成。可它家发布在社媒上的帖子却得到了数千名不知情者的点赞和评论。大模型通过视觉形式误导公众认知，这样的例子在今天比比皆是。
这可能是最懂 AI 产品的两位 PM 之间的对谈。Kevin Weil，OpenAI CPO（首席产品官），之前曾是 Instagram、Twitter 的产品副总裁。Mike Kreiger，Anthropic CPO，曾担任 Instagram 的联合创始人、CTO。
前些时日，AI 大模型开始掌握操作计算机的能力，但整体而言，它们与物理世界互动的能力仍处于早期阶段。
