10月12日·周一·Karpathy警告LLM认知鸿沟扩大

知名AI研究者Andrej Karpathy近日发文指出，社会对大语言模型（LLM）能力的理解正在出现严重的两极分化。一方是深度使用AI的从业者，他们清楚地认识到模型在编码、推理等任务上的能力边界；另一方则是偶尔接触AI的普通用户，要么将其神化为全能助手，要么贬低为简单的聊天玩具。Karpathy认为，这种认知差距正在加速扩大，并可能带来一系列负面影响：企业对AI能力的误判导致项目失败，用户对AI的错误期待引发信任危机，而政策制定者基于过时认知制定的监管规则也可能滞后于技术现实。他呼吁行业建立更清晰的能力评估标准和沟通机制，帮助弥合这一鸿沟。这一观点在Hacker News引发广泛讨论，许多开发者分享了类似的观察——在团队内部，对AI能力的认知差异已成为协作的主要障碍之一。

加州大学伯克利分校最新发布的一项研究发现，仅仅使用AI工具10分钟，就足以显著降低人们在面对困难任务时的坚持程度。研究人员通过对照实验发现，使用AI辅助的受试者在后续的难题挑战中，更容易选择放弃或寻求捷径，而非像对照组那样持续尝试。这项研究揭示了AI工具可能带来的”认知依赖”风险——当人们习惯了AI的即时帮助后，面对需要长时间专注和努力的挑战时，其内在动机和毅力会被快速侵蚀。研究人员指出，这一发现对教育领域尤其值得警惕，因为学生如果过早依赖AI辅助完成作业，可能会削弱其独立思考和攻克难题的核心能力。该研究呼吁学校和企业重新思考AI工具的使用边界，建议在需要培养深度学习能力的场景中设置”无AI”的工作时段。

好莱坞巨星Nicolas Cage公开表示，由于在AI相关问题上存在根本性分歧，他将不再与亚马逊展开任何合作。据《洛杉矶时报》报道，争议焦点在于亚马逊在内容制作中越来越广泛地使用AI技术，包括AI生成的面部扫描、声音克隆以及AI辅助的剧本创作等流程。Cage在接受采访时直言，AI对演员权益和创意产业的冲击是”不可接受的”，他特别担忧AI生成的数字肖像可能让演员的表演被无限制复制和修改，却无需获得本人同意。这一表态使Cage成为又一位公开抵制AI的好莱坞知名人士，此前已有SAG-AFTRA等工会组织就AI问题与制片方展开激烈谈判。Cage的立场也反映出娱乐行业内部围绕AI技术的裂痕正在加深，明星、编剧与技术公司之间的博弈远未结束。

一名加拿大YouTuber因自制了一套专门追踪警车位置的监控相机系统而引发广泛关注，随后当地警方登门造访，以”隐私问题”为由表达担忧。这位创作者明确表示，其灵感来自美国广泛部署的Flock车牌识别系统，该系统被警方用于追踪犯罪嫌疑人，但近年来因大规模监控普通市民而饱受争议。这位YouTuber的做法相当于”以彼之道还施彼身”——他利用计算机视觉和AI技术，自建了一套只针对警车的监控系统，并实时将数据公开。他表示，公众有权知道警力的部署位置，警方不应该在缺乏监督的情况下使用监控技术。警方的登门行为反而进一步印证了监控系统对执法部门同样构成压力。该事件在社交媒体上引发激烈讨论，触及了AI监控技术、公民监督权与隐私保护之间的复杂平衡。