7月30日·周四·AI安全与透明度危机：本周不可忽视的四大警示

《Science》杂志最新调查揭示了一个令人担忧的趋势：OpenAI、Anthropic、Google DeepMind等AI领域最顶尖的初创公司，正大幅削减学术论文发表数量。这一转变意味着曾经以”开放研究”著称的AI行业，正在加速走向封闭。从ChatGPT到Claude再到Gemini，这些模型背后积累的技术突破，正被牢牢锁在商业机密的黑箱中。行业观察者警告，这种趋势不仅阻碍了学术界的独立研究，更可能形成少数巨头对AI技术的垄断控制。当创新不再透明，公众对AI系统的监督能力也将被严重削弱。

安全研究人员近日演示了一种突破性的AI攻击手法：名为”上下文折叠蠕虫”的恶意程序，能够通过Microsoft Copilot for Word实现自我传播。这种蠕虫巧妙利用AI助手处理文档时的上下文理解机制，当用户打开一份受感染的文档时，Copilot会自动将恶意指令”传播”到其他关联文档中。更令人警惕的是，整个攻击过程不需要任何用户交互，纯粹依赖AI的自动化能力完成。目前微软尚未就此发表官方回应，安全专家呼吁用户在启用AI助手功能时保持高度警惕，避免处理来源不明的文档内容。

一项来自ArXiv的学术研究直接挑战了AI行业的主流假设：给AI代理提供冗长的政策文档和行为手册，并不能可靠地约束其行为。研究团队测试了多个主流AI系统在面对复杂政策指令时的表现，结果显示当文档超过特定长度阈值后，AI的指令遵循准确率急剧下降。这意味着企业试图通过厚厚的”Handbook.md”来控制AI系统的做法可能收效甚微。研究者建议，与其依赖长文档约束，不如设计更简洁、更结构化的规则体系。这一发现对AI治理和企业AI部署策略具有重要参考价值。

面对日益猖獗的提示注入（Prompt Injection）攻击，安全社区终于有了防御工具。LLM Honeypot是一个专门设计的”诱饵系统”，通过部署虚假但看似真实的AI交互接口，主动吸引和记录恶意攻击行为。当黑客试图通过注入指令来劫持AI系统时，Honeypot会悄然收集攻击者的技术手法、攻击向量和目标意图。这些数据随后被用于分析攻击模式，帮助防御者构建更 robust 的AI安全护盾。该项目已开源发布，为AI安全研究者提供了一个宝贵的资源共享平台。