9月9日·PyTorch迈向无CUDA推理，Triton内核展现潜力

38 0 0

9月9日·周一 AI工具和资源推荐

AI智库导航-aiguide.cc为您提供最新的AI新闻资讯和最新的AI工具推荐，在这里你可以获得用于营销的AI聊天机器人、AI在商业管理中的应用、用于数据分析的AI工具、机器学习模型、面向企业的AI解决方案、AI在商业客户服务中的应用、AI和自动化工具等。

PyTorch迈向无CUDA推理，Triton内核展现潜力

PyTorch官方宣布了一项重要进展，即在不使用英伟达CUDA的情况下进行大模型推理。通过使用OpenAI的Triton内核，PyTorch展示了在不同类型GPU上运行大模型的能力，包括英伟达、AMD、英特尔等。这一进展意味着开发者可以在更广泛的硬件上实现高性能的机器学习模型推理，减少了对特定供应商技术的依赖。在性能测试中，使用Triton内核的模型在英伟达H100和A100 GPU上的表现接近于使用CUDA的模型，显示出Triton在可用性、内存开销和AI编译器堆栈构建方面的优势。PyTorch团队还讨论了未来如何进一步改进Triton内核以缩小与CUDA的性能差距，预示着一个更加多样化和开放的AI硬件加速时代的到来。来源：微信公众号【机器之心】

谷歌Illuminate：将学术论文转化为播客的AI工具

谷歌实验室推出了一款名为Illuminate的创新工具，它能够将学术论文转换成AI生成的音频讨论，为研究者提供了一种全新的学习方式。通过谷歌的大型语言模型Gemini，Illuminate将论文摘要和问答内容转化为一问一答的音频形式，使得用户可以在多种场合下，如运动或开车时，轻松“听”论文。目前，该工具主要针对计算机科学领域的已发表论文进行优化。用户可以通过Google Illuminate网站申请使用，并体验将经典论文如《Attention is All You Need》转化为播客的过程。Illuminate的推出，预示着学术研究和知识传播方式的潜在变革。来源：微信公众号【机器之心】

格灵深瞳推动多模态大模型落地，超越视觉AI界限

中国科技公司格灵深瞳在多模态大模型领域取得显著进展，其自研的视觉大模型Unicom v2在多个权威数据集上超越了OpenAI等国际巨头。公司不仅在技术上取得突破，更在银行安防、城市管理、商业零售和体育教育等多个领域实现了AI算法的规模化落地。格灵深瞳的多模态大模型在实际应用中展现出强大的数据汇聚与语义理解能力，为行业提供了全新的数字化解决方案。公司通过弱监督学习和多标签聚类辨别方法，有效利用无标签图像数据，推动了视觉大模型的进化。格灵深瞳的实践表明，深耕行业和技术创新的结合是实现AI应用落地的关键。来源：微信公众号【量子位】

Sora陷研究泥潭？OpenAI一年血亏50亿，高盛报告乌龙引AI股地震！

近期，AI领域遭遇双重打击。一方面，Sora模型因安全风险和与好莱坞合作的复杂性陷入研究困境，迟迟未能全面开放。另一方面，高盛的一份报告错误解读了ChatGPT流量下降，引发市场恐慌，导致AI股票被大量抛售。尽管Sora尚未公开，但已有艺术家通过内测获得试用，展示了其在艺术创作中的潜力。高盛随后撤回了“AI泡沫”言论，并强调生成式AI的长期价值，认为尽管存在不确定性，AI领域的发展前景依然广阔。来源：微信公众号【新智元】

从腾讯大模型的「实用」路线引领企业应用AI的新方向

腾讯混元大模型在AI领域展现了其“实用”路线的成果，通过技术创新实现了训练和推理效率的显著提升，同时降低了推理成本。在腾讯全球数字生态大会上，混元Turbo模型的推出，不仅在性能上与国际领先模型ChatGPT-4o的差距缩小至1.29%，还在成本效益上实现了重大突破，推理成本降低了50%。这一进步不仅体现了AI技术在企业应用中的新方向，也预示着AI成本的进一步下降和应用的广泛化。腾讯还围绕大模型打造了一系列精调工具链和产品，如知识引擎、图像创作引擎、视频创作引擎等，进一步推动了AI在各行各业的实用化和产业化进程。来源：微信公众号【机器之心】