继去年初的第一代VALL-E模型之后，微软最近又上新了VALL-E 2模型，标志着第一个在合成语音稳健性、相似度、自然程度等方面达到人类水平的文本到语音模型。
陶芳波博士，心识宇宙创始人兼 CEO，毕业于清华大学和 UIUC，并先后在美国微软研究院、Facebook 研究院工作，后归国成立阿里达摩院神经符号实验室从事 AI 研发工作，随后在 2022 年初开始 AI 创业，获红杉、线性、Square Peg 等近亿元融资。
只需激活60%的参数，就能实现与全激活稠密模型相当的性能。
微软推出AI模型SpreadsheetLLM，提升电子表格处理效率。
arXiv 不是同行评审期刊，所以发在 arXiv 上的论文不必被引用，这合理吗？
大模型理解、推理Excel，现在变得更加精准了。
微软的财务实力、持续的盈利能力和健康的资产负债表令人信心倍增。
LLM 很强大，但也存在一些明显缺点，比如幻觉问题、可解释性差、抓不住问题重点、隐私和安全问题等。检索增强式生成（RAG）可大幅提升 LLM 的生成质量和结果有用性。
来自微软、MIT等机构的学者提出了一种创新的训练范式，攻破了大模型的推理缺陷。他们通过因果模型构建数据集，直接教模型学习公理，结果只有67M参数的微型Transformer竟能媲美GPT-4的推理能力。
Kevin Scott表示，过去20年里，人工智能领域最重要的进步都与“规模”有关；OpenAI的潜力在于未来可能成为构建AI平台的基础；数据的质量比数量更重要。
