调研180多篇论文，这篇综述终于把大模型做算法设计理清了
调研180多篇论文，这篇综述终于把大模型做算法设计理清了算法设计（AD）对于各个领域的问题求解至关重要。大语言模型（LLMs）的出现显著增强了算法设计的自动化和创新，提供了新的视角和有效的解决方案。
来自主题: AI技术研报
3689 点击 2024-11-06 15:29
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
算法设计（AD）对于各个领域的问题求解至关重要。大语言模型（LLMs）的出现显著增强了算法设计的自动化和创新，提供了新的视角和有效的解决方案。
改进KV缓存压缩，大模型推理显存瓶颈迎来新突破—— 中科大研究团队提出Ada-KV，通过自适应预算分配算法来优化KV缓存的驱逐过程，以提高推理效率。
在奖励中减去平均奖励
时隔近70年，那个用来解决最短路径问题的经典算法——Dijkstra，现在有了新突破：被证明具有普遍最优性（Universal Optimality）。
OpenAI 最近发布的 o1 模型在数学、代码生成和长程规划等复杂任务上取得了突破性进展，据业内人士分析披露，其关键技术在于基于强化学习的搜索与学习机制。通过迭代式的自举过程，o1 基于现有大语言模型的强大推理能力，生成合理的推理过程，并将这些推理融入到其强化学习训练过程中。
西安电子科大、上海AI Lab等提出多模态融合检测算法E2E-MFD，将图像融合和目标检测整合到一个单阶段、端到端框架中，简化训练的同时，提升目标解析性能。 相关论文已入选顶会NeurlPS 2024 Oral，代码、模型均已开源。
让大模型依靠群体的智能。
虽然数据有限，但AI性能不会停滞不前，我们当前的算法还没有从我们拥有的数据中最大限度地提取信息，还有更多的推论、推断和其他过程我们可以应用到我们当前的数据上，以提供更多的价值。
大语言模型（LLM）正在推动通信行业向智能化转型，在自动生成网络配置、优化网络管理和预测网络流量等方面展现出巨大潜力。未来，LLM在电信领域的应用将需要克服数据集构建、模型部署和提示工程等挑战，并探索多模态集成、增强机器学习算法和经济高效的模型压缩技术。
量子计算机和经典计算机之间的较量，是永恒的。谷歌最新Nature研究中，证明了随机电路采样可以容忍多大噪声，依旧实现了量子霸权。