蚂蚁集团开源新算法，可助大模型推理提速2-6倍
蚂蚁集团开源新算法，可助大模型推理提速2-6倍该算法现已在GitHub上开源，相关论文公布在ARXIV。近日，蚂蚁集团开源了一套新算法，可帮助大模型在推理时，提速2至6倍，引起业内关注。
来自主题: AI资讯
9006 点击 2024-01-17 14:08
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
该算法现已在GitHub上开源，相关论文公布在ARXIV。近日，蚂蚁集团开源了一套新算法，可帮助大模型在推理时，提速2至6倍，引起业内关注。
ICLR 2024录用结果出来了。一年一度的ICLR顶会录用结果公布了！今年共7000多篇投稿论文，录用率31%。
新一代国产开源大语言模型来了！200K超长上下文「完美」支持，20B版本综合性能全面领先。
随着技术的不断发展，各种AI模型框架也越来越多，管理和整合多个模型、服务提供商和密钥可能会变得复杂。幸运的是，而今有一款名为“AI 网关”的开源项目可以帮助简化这一过程。
最近几年，有多款备受瞩目的大作遭遇滑铁卢，其实也多少与开发过程中项目管理失控有着密切的关系，比如CDPR的《赛博朋克2077》、Bethesda的《星空》。
Artifact 是一款 AI 驱动的新闻共享 app，可以理解为信源质量更高的外媒版今日头条，生于 2023 年 1 月，卒于 2024 年 1 月，死因就是不够受欢迎，也不够有商业头脑。
从 Llama、Llama 2 到 Mixtral 8x7B，开源模型的性能记录一直在被刷新。由于 Mistral 8x7B 在大多数基准测试中都优于 Llama 2 70B 和 GPT-3.5，因此它也被认为是一种「非常接近 GPT-4」的开源选项。
据PitchBook，2023年美国投资者向创业公司注入了1706亿美元，较前一年下降了30%。但值得注意的是——人工智能初创企业拿走了三分之一的蛋糕。其中， 仅仅是OpenAI和Anthroric两家，就占据了交易总额的10%。
SPF算法是一种基于状态序列频域预测的表征学习方法，利用状态序列的频域分布来显式提取状态序列数据中的趋势性和规律性信息，从而辅助表征高效地提取到长期未来信息。
2023年，有超过10家AI初创公司接受了传统科技巨头的大额投资，不断建立并且强化了微软—OpenAI式的合作关系，甚至引发了英美两国的监管机构的关注。