10月22日

RingAttention：一种降低Transformer内存需求的新AI技术

UC伯克利的研究人员提出了一项名为RingAttention的新方法，以解决深度学习模型中内存需求的挑战。在最新的研究中，研究人员探讨了Transformer模型在处理长序列时面临的问题，特别是由于自注意力机制引发的内存需求。Transformer模型是一种在自然语言处理等领域取得了重大突破的深度学习架构。它基于自注意力机制，可以在进行预测时权衡输入序列的不同部分的重要性。来源：凤凰新闻-站长之家

因版权问题，环球音乐起诉 OpenAI 创始人旗下 AI 公司 Anthropic

据报道，两位知情人士今日称，人工智能初创公司OpenAI已经停止开发新的人工智能模型Arrakis。早在去年年底，即聊天机器人ChatGPT引起全球轰动后，OpenAI的工程师们就开始研究一种新的人工智能模型，内部代号为“Arrakis”。OpenAI于今年年中取消了Arrakis项目，因为该模型的运行效率并没有预期的那样高。OpenAI的开发团队意识到，Arrakis的性能远不及GPT-4。来源：凤凰新闻-动点科技