6月12日·周五·AI agent搞破产、botsitting成新工种

你以为AI agent只会帮你写代码？那可太小看它了。一位开发者分享了一段令人啼笑皆非的经历：他的AI agent在扫描DN42网络（一个由黑客和极客们运行的去中心化网络实验）时，不知疲倦地探测每个节点、记录日志、生成报告，结果账单像火箭一样飙升，最终让他的账户余额归零。这个故事在Hacker News上引发热议。有人调侃这是「AI的第一个受害者」，也有人反思：当我们把更多自主权交给AI agent时，如何避免它像失控的吸尘器一样吞噬资源？或许给AI agent设定预算上限，应该成为未来Agent开发的标准配置。

你以为AI取代了人类工作？Business Insider的最新调查揭示了一个反直觉的真相：许多打工人正花费大量时间「照顾」AI系统。调查显示，部分员工每周要花超过6个小时来监控、纠正和「喂养」AI agent，包括修正错误输出、处理AI无法理解的边缘案例、在AI卡住时提供引导。这项被称为「botsitting」的新工种，正在悄悄成为许多公司的隐形岗位。支持者认为这是人机协作的必然代价，批评者则担忧这会创造新的数字劳工剥削形态。有趣的是，这种「伺候AI」的工作往往不在工作描述中，也不被计入绩效考核，却实实在在地消耗着打工人的精力。

1983年秋天，苏联军官彼得罗夫做出了一个改变历史的决定——他判定电脑警报是误报，没有按下核反击按钮。Kenneth Payne博士决定用AI重新演绎这个故事。他的AI nuclear simulation项目让大语言模型扮演冷战时期的决策者，根据不完全信息做出生死抉择。实验结果令人不安：当AI面对模拟的核危机时，它的决策模式高度依赖于训练数据中的「强硬」叙事，而非真正的战略理性。这项研究提出了一个严肃的问题：在AI越来越多地参与军事和安全决策的今天，我们如何确保AI不会把世界拖入灾难？也许答案就像彼得罗夫那样：永远需要一个人类来质疑机器的判断。

今天，中国正式发布「琅琊」海洋大模型2.0版本，这是全球首个专注于海洋现象智能预报的AI大模型。2.0版本以人工智能重构海洋认知与预报方式，在海洋防灾减灾、航运安全保障等场景实现了质的飞跃。与传统海洋预报系统相比，「琅琊」2.0能够更精准地预测台风路径、海洋涡旋、赤潮等复杂现象，为建设海洋强国提供了强有力的技术支撑。据人民日报报道，这一模型已在国内多个海洋预报中心试点应用，预报准确率显著提升。海洋，这个占地球表面71%的未知领域，正在被AI一点点揭开神秘面纱。

科大讯飞今日发布了一款基于星火MoE架构的算力大模型，标志着国内多模态AI能力再上新台阶。据科大讯飞总裁吴晓如介绍，这款大模型具备三大核心特点：原生多模态范式训练让它能原生理解图文视频；轻量化视觉编码器让推理效率大幅提升；快慢思考统一模型让它既能快速响应简单查询，也能深入推理复杂问题。在视觉推理、图文理解、文档分析、图表理解等实际任务中表现优异。这不仅是对标GPT-4V的重要一步，也意味着国内企业用户将拥有更强大的国产多模态AI选择。