4月10日

全面突围，谷歌昨晚更新了一大波大模型产品：Gemini 1.5 Pro 首次提供了本地音频（语音）理解功能、代码生成新模型 CodeGemma、首款自研 Arm 处理器 Axion

当地时间本周二，谷歌在 Google’s Cloud Next 2024 上发布了一系列 AI 相关的模型更新和产品，包括 Gemini 1.5 Pro 首次提供了本地音频（语音）理解功能、代码生成新模型 CodeGemma、首款自研 Arm 处理器 Axion 等等。Gemini 1.5 Pro 是 Google 功能最强大的生成式 AI 模型，现已在 Google 以企业为中心的 AI 开发平台 Vertex AI 上提供公共预览版。这是谷歌面向企业的 AI 开发平台。它能处理的上下文从 12.8 万个 token 增加到 100 万个 token。100 万个 token 大约相当于 70 万个单词，或者大约 3 万行代码。这大致是 Anthropic 的旗舰模型 Claude 3 能作为输入处理的数据量的四倍，也大约是 OpenAI 的 GPT-4 Turbo 最大上下文量的八倍。该版本首次提供了本地音频（语音）理解功能和全新的文件 API，使文件处理变得更加简单。来源：微信公众号【机器之心】

Mistral开源8X22B大模型，OpenAI更新GPT-4 Turbo视觉

今年 1 月，Mistral AI 公布了 Mixtral 8x7B 的技术细节，并推出了 Mixtral 8x7B – Instruct 聊天模型。该模型的性能在人类评估基准上明显超过了 GPT-3.5 Turbo、Claude-2.1、Gemini Pro 和 Llama 2 70B 聊天模型。短短 3 个月后，Mistral AI 开源了 Mistral 8X22B 模型，为开源社区带来了又一个性能强劲的大模型。Mistral 8X22B 仅次于 xAI 此前推出的 Grok-1（参数量为 3140 亿），成为迄今为止第二大开源模型。同时，OpenAI 宣布 GPT-4 Turbo with Vision 现在可以通过 API 使用了，并且 Vision 功能也可以使用 JSON 模式和函数调用了。来源：微信公众号【机器之心】

英伟达竞品来了，训练比H100快70%，英特尔发最新AI加速卡

今天凌晨，英特尔在 Vision 2024 大会上展示了 Gaudi 3，这是其子公司 Habana Labs 的最新一代高性能人工智能加速器。Gaudi 3 将于 2024 年第三季度推出，英特尔现已开始向客户提供样品。凭借 1835 TFLOPS 的 FP8 计算吞吐量，英特尔相信它足以在广阔的（且昂贵的）AI 计算领域中分得一杯羹。根据内部基准测试，英特尔估计 Gaudi 3 性能部分超过了英伟达的 H100，并且具有更好的能耗比。在一些关键的大型语言模型中，Gaudi 3 能够击败英伟达的旗舰 H100/H200 Hopper 架构 GPU。在当前这个科技领域抢购英伟达 GPU 的时刻，Gaudi 3 或许能为英特尔在 AI 加速器市场打开一扇门。Gaudi 3 的发布也正值英特尔对其 AI 加速器产品的定位发生变化之际：当前，Gaudi 系列已升级为英特尔旗舰 AI 加速器。来源：微信公众号【机器之心】

腾讯大模型落地实操：模型推理引擎 TACO-LLM 的实践、腾讯乐享的 AI 功能探索

腾讯乐享，作为腾讯内部孵化并使用了十余年的知识管理、学习培训和文化构建平台，开始利用 AI 对知识管理进行了深度改造，提效的同时也提高了知识的曝光、使用和迭代，AI 的加成甚至让企业知识管理这个赛道从小众成为了「热门」。TACO-LLM 是基于腾讯云异构计算产品推出的一款大语言模型推理加速引擎，用于提高语言模型的推理效能。在大语言模型的整个和用户的交互过程中，推理引擎是 AI 的核心引擎，负责接收用户的请求，并且将其进行处理和回应。乐享主要解决三个核心场景的问题：知识管理、学习培训和文化建设。在细分应用场景中，我们可以看到一些领域直接利用大型语言模型的API来实现特定的功能，这样的做法相对简单，不需要进行复杂的微调和向量数据库的结合。例如，在内容生成领域，考题生成可以直接调用大模型的 API 来完成，这大大减少了人力和财力的投入。来源：微信公众号【Founder Park】

亿万富翁巴菲特和 8 位顶级科技大佬平时用什么 AI 工具？

自 ChatGPT 在 2023 年 11 月推出，科技界每个人都在谈论并尝试 AI 新工具，也包括一些世界上最有影响力的商界领袖。我们来看一看亿万富翁巴菲特，以及其他 8 位科技顶流平时都用什么 AI 工具。感觉，用 AI 来做最浪漫的事情的是：微软的纳德拉和谷歌的皮查伊，还有 Sun 的联合创始人、硅谷顶级风投家科斯拉。巴菲特：用 ChatGPT 将歌《My Way》翻译成了西班牙语。巴菲特：用 ChatGPT 将歌《My Way》翻译成了西班牙语。英伟达 CEO 黄仁勋：“几乎每天”都用 Perplexity AI。英伟达竞争对手 AMD 的 CEO 苏.丽莎：用微软 Copilot 来”总结会议 “和 “跟踪行动”。微软 CEO 纳德拉：最喜欢用 ChatGPT 解释德国哲学与波斯诗歌。Sun 的联合创始人、硅谷顶级风投家维诺德.科斯拉：用 ChatGPT 为女儿婚礼写了一段说唱。OpenAI 的 CEO 兼联合创始人奥特曼：用 ChatGPT 翻译和写作。歌 CEO 桑达尔.皮查伊：用 LLM 和儿子一起与冥王星对话。扎克伯格打造了一个个人 AI 助理 “Jarvis”，用来管理家中各个部分。来源：微信公众号【硅发布】