10月10日·Anthropic研究：仅需250份文档即可攻击大模型

10月10日·周五  AI工具和资源推荐

Anthropic研究：仅需250份文档即可攻击大模型

Anthropic与英国人工智能安全研究所和艾伦·图灵研究所联合研究发现，仅需250份恶意文档即可在大型语言模型（LLM）中植入后门漏洞，无论模型规模或训练数据量大小。这一发现挑战了传统观念，即认为攻击大模型需要大量数据。研究团队通过实验表明，即使在不同规模的模型中，少量投毒文档也能成功触发后门，使模型在特定触发词下生成无意义文本。这一结果强调了大模型在数据安全方面的脆弱性，并呼吁更多研究来开发有效的防御措施。来源：微信公众号【机器之心】

Figure 03人形机器人发布，感知能力达回形针级别

Figure公司发布了第三代人形机器人Figure 03，专为家庭和商业化应用设计。Figure 03配备了全新设计的传感器套件和手部系统，能够感知3克的力，足以握住一枚回形针。该机器人不仅能够完成家务活，还能胜任酒店前台和快递投递等工作。Figure 03的设计注重安全性、易用性和大规模制造，旨在通过其专有的视觉-语言-动作AI系统Helix实现对真实世界的推理能力。这一发布标志着人形机器人在家庭和商业应用中的进一步发展。来源：微信公众号【机器之心】

马尔可夫思考机问世，大幅降低LLM推理成本

Mila和微软研究院等机构联合提出了一种新的推理架构——马尔可夫思考机（Markovian Thinker），通过重构强化学习环境，将推理过程组织成固定大小的区块，从而将推理成本从二次级降低到线性。这一创新使得模型在长思考过程中仅需线性的计算量和恒定的内存，显著提高了推理效率。实验表明，使用马尔可夫思考机训练的模型在长思考任务中表现优异，且训练成本大幅降低。这一成果为大语言模型的推理优化提供了新的方向。来源：微信公众号【量子位】

Vidu Q2与Sora 2视频生成能力对比测试

Vidu Q2和Sora 2在视频生成能力上的对比测试显示，两者各有优势。Vidu Q2在一致性、物理规律遵循和运镜方面表现出色，能够生成高质量、稳定的视频内容。Sora 2则在音视频同步输出方面具有优势，但在一致性上稍显不足。Vidu Q2的参考生功能允许上传多张图片并联动生成视频，操作更为灵活。此次测试揭示了AI视频生成技术在实际应用中的潜力和挑战，也为未来的技术发展提供了参考。来源：微信公众号【量子位】

vivo发布OriginOS 6，重构安卓底层核心

vivo在开发者大会上发布了OriginOS 6，这是其最新版的手机操作系统，全面升级了AI功能并重构了安卓底层核心。OriginOS 6引入了多模态交互、AI通话、Live Photo AI消除等功能，提升了用户体验。在系统底层，vivo通过蓝河流畅引擎优化了计算、显示和存储模块，显著提升了系统性能和稳定性。例如，超核计算技术优化了任务调度，存储融合技术提升了内存管理效率，双渲染架构提高了显示性能。OriginOS 6的发布标志着国产手机操作系统在AI和系统优化方面的重大进步。来源：微信公众号【量子位】