Groq AI 是人工智能芯片行业的先驱公司，它正在为我们如何看待人工智能处理能力的重大转变奠定基础。
什么是 Groq AI？
本周末，Groq AI 闪电般的演示吸引了公众的注意力，展示了使当前迭代的功能 聊天GPT, 双子座， 乃至 格罗克 相比之下显得很慢。 Groq AI 因能够提供“世界上最快的大型语言模型，”这一说法通过积极的第三方评估而获得了可信度。
Groq AI 的功能
通过最先进的演示，Groq AI 表明它可以在短短一秒内生成包含数百个单词的详细、真实的回复，并附有来源引用，正如最近在 X 上分享的演示中所看到的那样这种水平的性能不仅展示了 Groq AI 令人印象深刻的速度，还展示了其生成 AI 内容的精度和深度。
使用 Groq 的第一个公开演示：闪电般快速的 AI 答案引擎。
它在不到一秒的时间内用数百个单词写出事实性的、引用的答案。
超过3/4的时间花在搜索上，而不是生成上！
LLM 的运行时间仅需不到一秒。https://t.co/dVUPyh3XGV https://t.co/mNV78XkoVB pic.twitter.com/QaDXixgSzp
— 马特·舒默 (@mattshumer_) 2024 年 2 月 19 日
在 Groq AI 功能的非凡展示中，该公司的创始人兼首席执行官乔纳森·罗斯 (Jonathon Ross) 精心策划了 美国有线电视新闻网 主持人和位于世界另一端的人工智能聊天机器人，所有这些都在电视上直播。 这一突破表明，Groq AI 的技术不仅速度快，而且足够强大，能够在全球范围内实现实时交互式通信。
Groq AI 创新的核心是其语言处理单元 (LPU)，专门设计用于超越 Nvidia 的图形处理单元 (GPU)。 虽然 Nvidia 的 GPU 一直是运行复杂人工智能模型的基准，但 Groq AI 的 LPU 正在创造新的记录，这表明人工智能应用的处理能力和效率发生了范式转变。 这一进步预示着一个充满希望的未来，Groq AI 的技术可以重新定义全球人工智能系统的功能和应用。
哇，今晚有很多推文！ 常见问题解答。
• 我们速度更快，因为我们设计了芯片和系统
• 它是一个 LPU，语言处理单元（不是 GPU）
• 我们使用开源模型，但不训练它们
• 我们每周都会增加访问容量，敬请关注 pic.twitter.com/nFlFXETKUP— Groq Inc (@GroqInc) 2024 年 2 月 19 日
Groq AI 将自己定位为“推理机，“这是一个关键组件，可以增强 ChatGPT、Gemini 和 Grok 等聊天机器人的性能，而不是充当聊天机器人本身。 它的作用是提高这些人工智能驱动平台的速度，为它们提供所需的快速处理能力，而无需取代其独特的功能。 在 Groq AI 的平台上，用户有机会尝试各种聊天机器人，亲眼目睹 Groq 语言处理单元 (LPU) 带来的加速性能。
值得注意的是，Groq AI 的技术实现了惊人的输出 每秒 247 个令牌，明显优于微软 每秒 18 个令牌，据第三方评估显示 人工分析。 这种性能飞跃表明像 ChatGPT 这样的人工智能平台可以在 在 Groq 的硬件上速度提高了 13 倍，人工智能通信效率的改变游戏规则的前景。
得益于 Groq AI，人工智能聊天机器人的响应能力和实用性都将大大提高。 目前的模型，包括 ChatGPT、Gemini 和 Grok，通常很难跟上实时人类对话的节奏，轻微的延迟可能会影响交互的自然流程。 最近的演示，例如谷歌的 Gemini 演示，旨在展示现实中仍然遥不可及的实时功能。 然而，随着 Groq AI 提供的加速，这种无缝交互很快就会变得可行。
谁拥有格罗克？
乔纳森·罗斯Groq 的联合创始人带来了他在共同创立 Google 人工智能芯片部门时留下的丰富创新遗产，该部门在开发用于人工智能模型训练的先进芯片方面发挥了重要作用。 Groq 的 LPU 专门设计用于克服 GPU 和 CPU 在大型语言模型 (LLM) 处理中面临的两个主要瓶颈：计算密度和内存带宽，有望将效率和速度提升到新的水平。
Groq 是由 Groq, Inc. 开发的平台，该公司于 2019 年由经验丰富的软件工程师和数据科学家团队创立。 该公司的使命是让开发人员和数据科学家轻松构建、部署和管理机器学习模型和数据管道。 Groq, Inc. 是一家私营公司，已获得红杉资本、凯鹏华盈和 IVP 等投资者的资金。 公司总部位于加利福尼亚州旧金山。 至于谁拥有 Groq，很可能该公司的创始人、管理团队和投资者拥有该公司的所有权股份。 不过，具体的股权结构并未公开披露。
埃隆·马斯克盗用了 Groq AI 的名字吗？
“Grok”这个名字背后的灵感可以追溯到 Robert Heinlein 1961 年的科幻小说“陌生土地上的陌生人，”体现了深刻、直观的理解的概念。 这一概念吸引了人工智能行业的关注，并被多个实体采用，其中包括埃隆·马斯克 (Elon Musk) 的 Grok 和一家支持人工智能的 IT 公司等。 尽管该领域竞争激烈，Ross 声称，成立于 2016 年的 Groq AI 是使用该名称的先驱，强调了其致力于推动人工智能技术走向未来的承诺，让机器深入、直观的理解成为现实。
“您知道吗，当您宣布新的 xAI 聊天机器人时，您使用了我们的名字？ 您的聊天机器人称为 Grok，我们的公司称为 Groq®，因此您可以看到这可能如何在人们之间造成混乱。 Groq（我们）听起来很像 Grok（你），而且一个辅音（q、k）的差异只对拼字游戏和拼写检查游戏很重要。 另外，我们拥有商标。
我们可以理解为什么您可能想采用我们的名字。 您喜欢快速的事物（火箭、超级高铁、单字母公司名称）和我们的产品 Groq LPU
推理引擎是运行大型语言模型 (LLM) 和其他生成式 AI 应用程序的最快方式。 然而，我们必须要求您选择另一个名字，而且要快，”Groq 写道 博客。
尽管 Groq 引起了广泛关注，但尚不确定其 AI 芯片是否具有与 Nvidia 的 GPU 或谷歌的 TPU 相当的可扩展性。 OpenAI 首席执行官 Sam Altman 目前非常重视人工智能芯片，甚至考虑进行内部开发。 Groq 提供的增强芯片速度可能会促进人工智能领域的进步，为与人工智能聊天机器人的实时交互开辟新途径。
特色图片来源： 凯雷姆·葛兰/中途
