这两天,FlashAttention团队推出了新作: 一种给Transformer架构大模型推理加速的新方法,最高可提速8倍。 该方法尤其造福于长上下文LLM,在64k长度的CodeLlama-34B上通过了验证
ChatGPT之类的AI编码工具来势汹汹,Stack Overflow又裁员了!不过,普林斯顿和芝大竟发现,面对真实世界GitHub问题,GPT-4的解决率竟是0%。
Zilliz和 Dify.AI 达成合作,Zilliz 旗下的产品 Zilliz Cloud、Milvus 与开源 LLMOps 平台 Dify 社区版进行了深度集成。
GPT-4V出现惊天bug?! 原本只是让它分析一张图片,结果它直接犯了致命安全问题,把聊天记录都给抖落出来了。
AI的产业化或许是今年跨境电商的一大变量。有人说,跨境电商是一个非常适合AI来改革的领域。不少跨境服务商在调研后发现,50%以上的商家在经营环节里,已经用过一款或几款AI产品。
早就听说笔记本PC就能跑生成式AI,我们也试了试,看看笔记本仅借助CPU能不能在本地自己写代码、自己作图?
Agent 的思路为我们带来了 Software 2.0 的图景:LLM 作为推理引擎能力不断增强,AI Agent 框架为其提供结构化思考的方法,软件生产进入“3D 打印”时代
Greenplum是一个统一分析和人工智能 (AI) 平台,旨在帮助企业充分利用其数据资源。无论是结构化数据、半结构化数据还是非结构化数据,Greenplum都能提供一个统一的平台,作为无可争议的 "单一真相源",而且通过对向量数据的并行处理支持,Greenplum可以与最新的大语言模型方法(LLM)集成。
微调LLM需谨慎,用良性数据、微调后角色扮演等都会破坏LLM对齐性能!学习调大了还会继续提高风险!