AI资讯新闻榜单内容搜索-分布式互联网训练

关键词: LLM,AI,DisTrO,分布式互联网训练,模型训练

如果可以使用世界上所有的算力来训练AI模型，会怎么样？近日，凭借发布了开源的Hermes 3（基于Llama 3.1）而引起广泛关注的Nous Research，再次宣布了一项重大突破——DisTrO（分布式互联网训练）。