破解联邦学习中的辛普森悖论,浙大提出反事实学习新框架FedCFA
破解联邦学习中的辛普森悖论,浙大提出反事实学习新框架FedCFA本地训练的客户模型忽视了全局数据中明显的更广泛的模式,聚合的全局模型可能无法准确反映所有客户端的数据分布,甚至可能出现「辛普森悖论」—— 多端各自数据分布趋势相近,但与多端全局数据分布趋势相悖。
搜索
本地训练的客户模型忽视了全局数据中明显的更广泛的模式,聚合的全局模型可能无法准确反映所有客户端的数据分布,甚至可能出现「辛普森悖论」—— 多端各自数据分布趋势相近,但与多端全局数据分布趋势相悖。
AI 的编程能力已经得到了证明,但还并不完美。近日,BuzzFeed 的资深数据科学家 Max Woolf 发现,如果通过提示词不断要求模型写更好的代码(write better code),AI 模型还真能写出更好的代码!
最新综述论文探讨了知识蒸馏在持续学习中的应用,重点研究如何通过模仿旧模型的输出来减缓灾难性遗忘问题。通过在多个数据集上的实验,验证了知识蒸馏在巩固记忆方面的有效性,并指出结合数据回放和使用separated softmax损失函数可进一步提升其效果。
Shevchenko 的目标是打造一款能理解用户何时需要其帮助的电子设备,并且能理解、保存用户脑海中的想法,实现真正的「意图识别」甚至「意图预判」,这可能会改变用户使用智能设备的方式。
在今年的 NeurIPS 2024 大会上,硅谷最著名的 VC 之一 Conviction Capital 创始人 Sarah Guo 和合伙人 Pranav Reddy 做了一场 “AI 创业公司的现状(The State of AI Startups)”的分享。
2022年,我们打赌说transformer会统治世界。 我们花了两年时间打造Etched chip,这是世界上第一个用于transformer(ChatGPT中的“T”)的专用芯片。
按照惯例,三星通常会在每年1月举行Galaxy Unpacked特别活动,Galaxy S系列旗舰新品也将在这场活动中发布。不过,今年的情况似乎有些特殊,或许是Galaxy S24系列销量太好,截至12月中旬,三星仍没有开启预热活动。
Reddit 作为一个充满活力的全球社区平台,里面有非常丰富的兴趣小组和只有想不到没有找不到的话题,类似国内的百度贴吧、豆瓣,我们不仅可以从中发现灵感、验证想法,还可以找到对应的客户,非常适合验证创业想法。
刚刚,OpenAI正式一分为二!营利性部门转变为PBC,追求商业利润;而非营利部门,继续专注于健康、教育和科学慈善工作。从此,OpenAI再拿投资人的钱,可就没有障碍了!网友:OpenAI正式变身ClosedAI。
微软对 Windows 系统中的 Copilot 实现方式进行了又一次更新。