6月29日·强化学习新突破！华人团队提出 InFOM，预训练效果提升 20 倍

6月29日·周日  AI工具和资源推荐

强化学习新突破！华人团队提出 InFOM，预训练效果提升 20 倍

强化学习（RL）领域迎来重大突破！由加州大学伯克利分校团队提出的 InFOM（意向条件流占用模型）方法，通过预训练和微调范式，实现了强化学习任务的显著性能提升。InFOM 不依赖奖励信号，能够通过「流匹配」技术预测多个未来步骤，并适应用户的不同意图。该方法在多个任务中表现出色，特别是在奖励稀疏或半稀疏的复杂任务中，相比传统方法，InFOM 的成功率提升了 36%，在某些任务上甚至实现了 20 倍的性能提升。InFOM 的提出为强化学习的预训练和微调提供了新的思路，有望推动 RL 在更多领域的应用。来源：微信公众号【新智元】

Gary Marcus 断言：纯 LLM 无法构建 AGI，MIT 等校论文引发热议

人工智能学者 Gary Marcus 近日对大型语言模型（LLM）能否构建通用人工智能（AGI）提出了质疑。他引用了 MIT、芝加哥大学和哈佛大学合著的一篇论文，指出 LLM 存在「波将金式理解」问题，即模型在基准测试中表现出色，但其内部概念表征存在深层次的矛盾和不一致性。Gary Marcus 认为，这种不一致性使得基于纯 LLM 构建 AGI 的希望变得渺茫。论文通过实验表明，即使是顶级模型如 GPT-4o 也频繁犯此类错误。尽管一些模型在某些任务上表现良好，但它们在概念理解和应用上仍存在显著差距。这一观点引发了学术界和业界的广泛讨论，部分研究者认为需要进一步研究来验证这一现象的普遍性和影响。来源：微信公众号【新智元】

HoPE 混合位置编码打破长视频理解瓶颈，显著提升 VLM 长度泛化能力

视觉语言模型（VLM）在视觉问答和图像描述等任务中表现出色，但在长视频理解和检索等长上下文任务中仍面临挑战。CMU 和小红书的研究团队提出了一种新的混合位置编码（HoPE）方法，通过理论分析和实验验证，发现传统的多模态旋转位置编码（RoPE）在长上下文中存在语义偏好问题，即高频时间建模会破坏语义偏好性质。HoPE 方法通过零频率时间建模和多尺度时序学习，显著提升了 VLM 在长视频理解和检索任务中的表现。实验结果表明，HoPE 在多个长视频任务基准测试中达到了最优性能，为视觉语言模型的长上下文建模提供了新的解决方案。来源：微信公众号【新智元】

华为 CloudMatrix 重构 AI 数据中心，推理效率超 NVIDIA H100

华为近日发布了一篇重磅论文，披露了其下一代 AI 数据中心架构设计构想——CloudMatrix，以及该构想的第一代产品化实现 CloudMatrix384。该架构通过高带宽全对等互连和细粒度资源解耦，显著提升了 AI 集群的推理效率和资源利用率。具体而言，CloudMatrix384 的预填充吞吐量达到 6688 token/s/NPU，解码阶段吞吐量为 1943 token/s/NPU，均超过 NVIDIA H100/H800 的性能。此外，该架构还支持动态调整推理时延，在 15ms 的严格延迟约束下仍能维持 538 token/s 的解码吞吐量。华为 CloudMatrix 不仅在硬件设计上实现了创新，还通过面向云的基础设施软件栈，使得部署和运维变得更加便捷和高效。来源：微信公众号【机器之心】

BioCLIP 2：AI 大模型一眼认出 95 万物种，还能分辨雄雌老幼

俄亥俄州立大学研究团队在 2 亿生物图像数据上训练了 BioCLIP 2 模型，该模型能够识别超过 95 万种生物物种，并在多个非物种任务中表现出色。BioCLIP 2 在物种识别任务中取得了零样本平均准确率 55.6% 的成绩，比第二名 SigLIP 高出 16.1%。此外，该模型还在栖息地识别、植物疾病识别等任务中表现出色，展现了其在生物多样性研究中的巨大潜力。BioCLIP 2 的训练数据集 TreeOfLife-200M 是目前规模最大的生命图像库，包含 95.2 万个分类标签。该模型通过层级对比学习，能够自动对齐物种间的生态关系，并分离物种内的差异，如雌雄和幼成体的特征。BioCLIP 2 的研究证明了大规模监督学习在专业领域也能复刻大模型的涌现属性。来源：微信公众号【量子位】