4月4日
4月4日·周四 AI工具和资源推荐
AI全网资源导航-aiguide.cc为您提供最新的AI新闻资讯和最新的AI工具推荐，在这里你可以获得用于营销的AI聊天机器人、AI在商业管理中的应用、用于数据分析的AI工具、机器学习模型、面向企业的AI解决方案、AI在商业客户服务中的应用、AI和自动化工具等。
让AI进入物理世界，首届中国具身智能大会展望智能新纪元
具身智能其实是基于物理身体进行感知和行动的智能系统，其通过智能体与环境的交互获取信息、理解问题、做出决策并实现行动，从而产生智能行为和适应性。以上展示来自 3 月 30-31 日上海徐汇西岸举办的首届中国具身智能大会（China Embodied AI Conference，CEAI）场外。作为人工智能与人形机器人两大前沿技术的结合，具身智能产业是新质生产力的重要组成部分。在这场大会上可以看到具身智能的最新发展方向，也给产、学、研三方带来共同讨论的机会。9 场主旨演讲报告和 14 个专题论坛生动讲述了具身智能的定义、重要性以及发展态势，让参会者能够切身感受到具身智能就在身边，并正在兴起。来源：微信公众号【机器人全球资讯】
防止聊天机器人“造谣”，谷歌 Deepmind、斯坦福大学研究人员推出 AI 事实核查工具
防止 AI 大模型出现这种行为并非易事，且是一项技术性的挑战。不过据外媒 Marktechpost 报道，谷歌 DeepMind 和斯坦福大学似乎找到了某种变通办法。研究人员推出了一种基于大语言模型的工具 —— 搜索增强事实评估器（Search-Augmented Factuality Evaluator，简称 SAFE），可对聊天机器人生成的长回复进行事实核查。该系统可通过四个步骤对聊天机器人生成的回复进行分析、处理和评估，以验证准确性和真实性：将答案分割成单个待核查内容、对上述内容进行修正、再与谷歌搜索结果进行比较。随后，该系统还会检查各个事实与原始问题的相关性。来源：微信公众号【机器之心】
ChatGPT现在能帮你P图了，只需简单说几个字
OpenAI 的 DALL-E 今天进行了多项升级，在通往 Midjourney 加 Photoshop 的道路上又前进了一大步。现在，你可以在 ChatGPT 中使用 DALL-E 组件进行复杂的图像编辑。DALL-E 现在提供预设风格建议，以帮助激发图像创作灵感 —— 与很多新一代安卓旗舰手机 AI 生成壁纸的提示类似。在 AI 画图领域，Stable Diffusion，Midjourney 与 DALL-E 一直是最受欢迎的三大工具。其中 OpenAI 提出的 DALL-E 已经发展到了第三代，随着技术的进展，它已经可以实现添加元素、改变视角、调光修色等复杂操作。最近，DALL-E 3 添加了与 ChatGPT 的集成，这减轻了用户编写完美描述图像提示词的负担：人们只需告诉 ChatGPT 想要什么，剩下的事情交给 AI 来完成就行了。来源：微信公众号【机器之心】
上海交大团队研发大模型红队评测框架，能用于提醒大模型的滥用风险
在近期一项研究中，一支国内团队探索了大型语言模型在远离安全训练数据的情况下，其安全对齐面临的泛化挑战。研究中，他们选择代码作为研究对象。因为在当前主流的大型语言模型中，代码被广泛用作训练数据 ，并且代码与自然语言存在着显著差异。研究期间，他们提出了一款自动化代码红队评测框架——CodeAttack，该框架能将“文本生成任务”建模为“代码生成任务”，借此评估模型在生成代码时的安全行为。实验结果表明：CodeAttack 在目前最先进的大型语言模型（包括 GPT-4、Claude-2和 Llama-2系列）上取得了 80% 以上的攻击成功率，揭示了当前大型语言模型安全机制的一个普遍弱点。来源：微信公众号【DeepTech深科技】
弱智吧竟成最佳中文AI训练数据？！中科院等：8项测试第一，远超知乎豆瓣小红书
使用弱智吧数据训练的大模型，跑分超过百科、知乎、豆瓣、小红书等平台，甚至是研究团队精心挑选的数据集。在问答、头脑风暴、分类、生成、总结、提取等8项测试中取得最高分。论文中的Ruozhiba就是指百度贴吧弱智吧。这项研究来自中科院深圳先进技术研究院、中科院自动化研究所，滑铁卢大学等众多高校、研究机构联合团队。团队从中文互联网的各种知识源头直接收集数据，比如知乎、豆瓣、百科、小红书等，经过一系列严格的清洗和人工审核，打造成高质量、多样化的中文指令微调数据集COIG-CQIA。来源：微信公众号【量子位】
相关文章
