AI资讯新闻榜单内容搜索-陈天奇

关键词: AI,AI论文,AI学术,人工智能

今年的两篇最佳论文一作均为华人。

关键词: AI,Attention,模型训练,人工智能

新年第一天，陈天奇团队的FlashInfer论文出炉！块稀疏、可组合、可定制、负载均衡......更快的LLM推理技术细节全公开。

关键词: AI,XGrammar,模型训练,人工智能,陈天奇

不管是编写和调试代码，还是通过函数调用来使用外部工具，又或是控制机器人，都免不了需要 LLM 生成结构化数据，也就是遵循某个特定格式（如 JSON、SQL 等）的数据。 但使用上下文无关语法（CFG）来进行约束解码的方法并不高效。针对这个困难，陈天奇团队提出了一种新的解决方案：XGrammar。