4月3日·周三 AI工具和资源推荐
AI全网资源导航-aiguide.cc为您提供最新的AI新闻资讯和最新的AI工具推荐，在这里你可以获得用于营销的AI聊天机器人、AI在商业管理中的应用、用于数据分析的AI工具、机器学习模型、面向企业的AI解决方案、AI在商业客户服务中的应用、AI和自动化工具等。
国内首个AI程序员入职阿里云：专属工号AI001，KPI是一人写完公司20%代码
国内有一位 AI 程序员，已经在某互联网大厂上岗一段时间了。它就是阿里云数万名工程师最近频繁打交道的新同事 ——「通义灵码」，专属工号「AI001」。通义灵码在正式入职之前，先是在阿里云内部和外部「实习」了几个月。大家的评价都很不错，真实好评率超 80%。在传统的开发模式下，程序员每天需要耗费大量精力编写重复性代码、调试优化、编写代码注释，大幅挤压了核心业务代码编写的时间。但自从通义灵码入职，它在阿里云内部各个开发环节担任起了「代码助理」角色，包括在写代码、读代码、查 BUG、优化代码的全流程中辅助工程师们。而且，通义灵码的工作节奏比 996 还要极致：7×24 小时随叫随到……几个月实习期结束后，通义灵码攒下了不少「工作成果」。以 API 开发测试工作为例，通义灵码可将数分钟甚至十几分钟的人工编写测试耗时缩短到秒级，节省了人类程序员 70% 以上的测试代码工作量。来源：微信公众号【机器之心】
长文本之罪：Claude团队新越狱技术，Llama 2到GPT-4无一幸免
刚刚，人工智能初创公司 Anthropic 宣布了一种「越狱」技术（Many-shot Jailbreaking）—— 这种技术可以用来逃避大型语言模型（LLM）开发人员设置的安全护栏。研究者表示，其对 Anthropic 自家模型以及 OpenAI、Google DeepMind 等其他 AI 公司的模型都有效，模型包括 Claude 2.0、GPT-3.5 和 GPT-4 、Llama 2 (70B) 和 Mistral 7B 等。目前，该团队已经向其他 AI 开发人员通报了此漏洞，并已在他们自己开发的系统上实施了缓解措施。简单来说，模型越狱利用了 LLM 上下文窗口漏洞。攻击者输入一个以数百个虚假对话为开头的提示，提示中包含有害的请求，就能迫使 LLM 产生潜在有害的反应，尽管大模型接受过禁止这样做的训练。来源：微信公众号【机器之心】
LLM超长上下文查询-性能评估实战
在大型语言模型（LLM）的应用中，有几个场景需要以结构化的方式呈现数据，其中信息提取和查询分析是两个典型的例子。我们最近通过更新的文档和一个专门的代码仓库强调了信息提取的重要性。对于查询分析，我们同样更新了相关文档。在这些场景中，数据字段可能包括字符串、布尔值、整数等多种类型。而在这些类型中，处理高基数的分类值（即枚举类型）是最具挑战性的。所谓的“高基数分类值”，指的是那些必须从有限的选项中选择的值，这些值不能随意指定，而必须来自一个预定义的集合。当这个集合中的有效值数量非常庞大时，我们称之为“高基数”。处理这类值之所以困难，是因为LLM本身并不知道这些可能的值是什么。因此，我们需要向LLM提供关于这些可能值的信息。如果忽略了这一点，LLM可能会自行编造值。对于只有少数几个可能值的情况，我们可以通过在提示中明确列出这些值来解决。但是，当可能的值非常多时，问题就变得复杂了。随着可能值数量的增加，LLM正确选择值的难度也随之增加。一方面，如果可能的值太多，它们可能无法适应LLM的上下文窗口。另一方面，即使所有可能的值都能适应上下文，将它们全部包含在内会导致处理速度变慢、成本增加，以及LLM在处理大量上下文时的推理能力下降。来源：微信公众号【AI小智】
傅盛对话甲子光年：搞AI真的不能再这么烧钱了
“现在大模型的商业模式不清晰，项目怎么收费都是问题，”他告诉「甲子光年」，“需要和客户达成底层信任，得有些chemistry（化学反应）的交融，有些事才好谈。”晚餐之前，傅盛在客户现场驻扎了一整天，之前做to C的时候，他从未这样陪过客户，而现在他正在学习如何做好一家数字化转型服务商，如何服务甲方，“我很enjoy这件事，已经很久没有这种感觉了。”面对大模型浪潮，傅盛的选择是为客户提供私有化大模型——不是他之前熟悉的to C，也不是像8年前那样全力all in的机器人。这和此刻的行业热点略显格格不入。格格不入的还有他的观点：在刚刚过去的GTC大会上，英伟达机器人团队宣称2024年是“人形机器人之年”。对此傅盛评价道：“那更是一种卖算力的营销。”他认为，双足人形机器人要实现百万级量产，“五年内别想落地”。而对于近期某些互联网大佬对AGI的高谈阔论，傅盛很生气：“我一直是特别坚持要踏实做技术的派别，特别见不得那种对技术了解不够直接张口就来的人。一张嘴就斩钉截铁地说一个定律，这就很误导大众了。”来源：微信公众号【傅盛】
企业内部如何更好落地大模型？Founder Park 走访了 10+ 先行者
在微软推出 Copilot 后，工作场景中如何落地 LLM 很快成为业内关注的重点。钉钉、飞书等办公软件也快速在最新版本中集成 AI 功能。对于软件企业而言，在已有的软件上增加 AI 功能，并带来新产值，已经被 Notion、多邻国等产品所验证。除此之外，在企业生产场景中，集成 LLM 的能力，并为企业组织赋能，也成为人们关注 AI 落地的一个视角。Founder Park 研究中心访谈了多位第一批尝试用新技术在企业内部搭建应用的实践者。我们观察到，随着大模型技术话题的广泛破圈，相较于以往的技术升级，来自不同领域、行业的企业都更有意愿进行在内部生产环境中尝试 LLM。另一方面，应用落地的速度和质量，也与企业本身对技术的理解、技术实践能力、落地方式选择息息相关。这份总结性研究，希望为正在思考、探索 LLM 赋能生产的企业一份有价值的参考。来源：微信公众号【Founder Park】
相关文章
