10月13日·Meta新作:合成数据对大模型性能的影响研究

10月13日·周日  AI工具和资源推荐

AI智库导航-aiguide.cc为您提供最新的AI新闻资讯和最新的AI工具推荐,在这里你可以获得用于营销的AI聊天机器人、AI在商业管理中的应用、用于数据分析的AI工具、机器学习模型、面向企业的AI解决方案、AI在商业客户服务中的应用、AI和自动化工具等。

Meta新作:合成数据对大模型性能的影响研究

Meta、纽约大学和UCLA的研究人员在最新研究中发现,即使是微量的合成数据,也能导致大型语言模型(LLM)性能急剧下降,即所谓的“模型崩溃”现象。实验表明,即使合成数据在训练集中占比仅为1%,也可能引发模型崩溃,且模型规模越大,崩溃现象越严重。研究还探讨了通过策略性混合真实数据和合成数据来缓解这一问题的可能性,但发现仅通过加权混合无法解决问题,而动态迭代混合虽能恢复模型性能,却因计算成本过高而在实际应用中受限。该研究为未来合成数据的应用和技术发展提供了重要参考。来源:微信公众号【新智元

10月13日·Meta新作:合成数据对大模型性能的影响研究

OpenAI多智能体框架Swarm被控抄袭

近日,OpenAI发布的多智能体框架Swarm因涉嫌抄袭而引发争议。20岁的初创公司Swarms Corporation创始人Kye Gomez指控OpenAI不仅盗用了其项目名称,还抄袭了代码结构和方法。Gomez表示,其公司专注于多智能体协调框架,已运行近3年,服务多个大型金融机构。他指出,OpenAI的Swarm框架从智能体结构语法到群体类对象,均抄袭自其代码库,并要求OpenAI对其进行投资,否则将采取法律行动。目前,OpenAI的Swarm框架已在GitHub上获得大量关注,其设计旨在使智能体的协调和执行变得轻量级、高度可控且易于测试。来源:微信公众号【新智元

10月13日·Meta新作:合成数据对大模型性能的影响研究

中国移动发布九天善智多模态大模型

中国移动在第十二届全球合作伙伴大会上发布了九天善智多模态基座大模型,标志着其在人工智能领域的重大突破。该模型具备处理长文本、语音、视觉和结构化数据的能力,支持128K超长上下文理解与生成,并在国际竞赛中取得优异成绩。九天善智大模型在长文本理解、全双工语音交互、视频与图像处理、结构化数据分析等方面均有显著技术突破,已在多个行业深度应用。此外,该模型展现了中国移动在国产化AI创新方面的实力,实现了从芯片到框架的全栈国产化,并在多个行业领域实现了跨域应用,推动产业数字化转型。来源:微信公众号【机器之心

10月13日·Meta新作:合成数据对大模型性能的影响研究

苹果发布升级版多模态大模型MM1.5

苹果公司近期推出了其多模态大模型的升级版——MM1.5,该模型在文本密集型图像理解、视觉指代和定位、多图像推理等方面进行了显著的能力提升。MM1.5系列模型的参数量从1B到30B不等,包括密集和专家混合(MoE)模型,即便是较小的模型尺寸也展现出色的表现。该模型特别提升了OCR能力,支持任意图像长宽比和高达4M像素的分辨率,擅长理解富含文本的图像。此外,通过监督微调(SFT),模型的上下文学习和多图像推理能力得到了进一步增强。MM1.5的发布,展现了苹果在AI领域的持续创新和对高质量数据及先进训练策略的重视。来源:微信公众号【新智元】

10月13日·Meta新作:合成数据对大模型性能的影响研究

浙大发布GTSinger数据集,推动AI音乐合成研究

浙江大学的研究团队最近发布了一个高质量的开源歌声数据集GTSinger,旨在促进AI在音乐合成领域的发展。该数据集包含了专业歌手在录音棚录制的80.59小时歌声,涵盖了九种不同语言,提供了六种常用歌唱技巧的对照组和音素级标注。GTSinger还提供了真实乐谱和配对朗读数据,使其成为目前最大的录制歌声数据集之一。该数据集不仅能够支持多种歌声任务,如技巧可控的歌声合成、技巧识别、歌声风格迁移和语音到歌声的转换,还在多个任务上提供了基准测试。GTSinger的发布,为AI音乐生成任务提供了宝贵的资源,有助于解决该领域数据缺乏的问题,推动了AI在音乐创作和歌声合成方面的研究进展。来源:微信公众号新智元

10月13日·Meta新作:合成数据对大模型性能的影响研究

【今日案例】

分析2024诺贝尔化学奖为什么颁给AI科学家

https://yuanbao.tencent.com/bot/app/share/chat/f64cce0e297eefc698540d8cd5a7399b?trid=1004_shareAgentChatPage_shareDialog_45c33c18-197d-4abf-b5bc-b041ffa23bc1__

© 版权声明

相关文章

1 条评论

  • temporary email

    This is really interesting, You’re a very skilled blogger. I’ve joined your feed and look forward to seeking more of your magnificent post. Also, I’ve shared your site in my social networks!

    回复