Open -Source AI悄悄地重塑了企业技术堆栈,以及新的McKinsey,Mozilla Foundation和Patrick J. McGovern基金会 民意调查 在700位技术领导者中,成本,控制和社区为何将量表分配。当一家全球银行需要完全透明的风险测量模型时,它在自己的服务器上跳过了封闭的API和微调的Llama 3。这个故事不再是异常值。这是新兴模式。
开源遇到了AI淘金热
在过去的两年中,围绕生成的AI和大型语言模型产生了意识,实验和资金的激增。企业想要快速的结果,但他们也需要修补脚的空间。开放存储库交付两者。单个GIT拉力可以在几分钟内旋转一个工作型号,让工程师探索架构,调整参数和基准,而无需采购延迟。您自己的速度解释了为什么诸如Meta的Llama,Google的Gemma,Deepseek -R和Alibaba的Qwen家庭之类的项目降落在生产管道中,尽管他们仅具有“研究”免责声明。像GPT -4这样的专有泰坦的性能差距正在缩小;检查和修改代码的自由仍然是无价的。
调查揭示了什么
为了量化这一转变,麦肯锡与Mozilla基金会和Patrick J. McGovern基金会合作,收获了41个国家和700多名高级开发商,CIOS和CTOS。该研究标题为 “ AI时代的开源”,是企业如何从试点项目转移到大规模捕获的最大快照。受访者跨越了从金融到医疗保健,制造业到公共部门的行业,赋予数据广泛的相关性。当完整的报告于3月到来时,预览号码已经颠覆了一些关于“企业级” AI在2025年的样子的假设。
在AI技术堆栈的多个层中,超过一半的被调查组织使用至少一个开放式源组件,通常就在商业API密钥旁边。
- 数据和功能工程: 58%的人依靠开放库进行摄入,标记或矢量化。
- 模型层: 63%的人在生产中运行一个开放型模型,例如Llama 2,Gemma或Mistral;该数字在科技公司内部跃升至72%。
- 编排和工具: 55%的人采用宽链,射线或kserve等开放式框架进行路由和缩放。
- 应用层: 51%的聊天机器人,副驾驶或分析仪表板中嵌入了开放组件。
这些百分比攀升了更高的组织内部,将AI评为“对竞争优势至关重要”。在该队列中,领导者比同行集成开放模型和库的可能性高40%,强调了一个简单的事实:当AI是战略性,控制和灵活性的时候。
- 较低的总拥有成本。 60%的决策者表示,开放工具的实施成本比可比的专有服务要低。在使用稳定时,运行商品GPU的70亿参数模型可以通过数量级来降低API定价。
- 更深的透明度和自定义。 从事受管制工作负载的团队 – 考虑医疗保健诊断或交易算法 – 验证了审核权重,跟踪数据谱系和补丁漏洞的能力,而无需等待供应商发布周期。开放的重量使得可行。
- 人才磁性。 百分之八十的开发人员和技术人员报告说,开放式源流利性在其领域受到高度重视。工程师希望在上游贡献,展示GitHub投资组合,并避免使用黑盒子的死胡同。企业向那个人才池求助于宽松的许可,而不是围墙的花园。
开放工具不是灵丹妙药。当被问及采用障碍时,有56%的受访者引用了安全性和合规性问题,而有45%的受访者担心长期支持。专有供应商在“价值的时间”和“易用性”上得分更高,因为它们捆绑了托管,监视和护栏。而且,当高管更喜欢封闭的系统时,他们出于一个主要原因这样做:72%的人说专有解决方案可以更严格地控制风险和治理。换句话说,企业逐个措施使开放性与操作确定性权衡。
多模型是新的常规
麦肯锡的数据与十年前云计算中看到的趋势相呼应:混合体系结构获胜。很少有公司会全力以赴或专有。大多数会混合匹配。封闭的基础模型可能会为客户开放的聊天机器人提供动力,而开放的骆驼座则可以处理内部文档搜索。选择通常取决于延迟,隐私或域特异性。期望“带上自己的模型”菜单成为多云仪表板的标准配置。
CTO的剧本
根据调查见解和专家访谈,麦肯锡概述了技术领导者的务实决策矩阵:
- 选择打开时 您需要全重量透明度,积极的成本优化或深入域进行微调。
- 选择专有何时 速度到市场,托管安全性或全球语言覆盖范围超过自定义需求。
- 在何时融合 工作负载各不相同:在托管的API上保持公共成立的体验,对自固定的开放模型进行敏感或大量推断。
- 投资人才和工具: 公开成功取决于MLOPS管道,模型安全扫描和工程师流利的生态系统。
一位采访了CIO总结了这一点:“我们将模型视为微服务。有些我们构建,有些我们购买,所有这些都必须互操作。”
为什么现在很重要
企业面临战略十字路口。仅在专有平台上投注供应商锁和不透明的模型行为。完全开放要求内部专业知识和严格的安全姿势。调查数据表明,获胜游戏是可选的:建立一个堆栈,使团队可以随着市场的发展而迅速交换模型。开源不再是叛军选择。它正在成为企业AI中的第一级公民。忽略它,您可能会发现竞争更快地迭代,雇用更好的人才,并为推理付出更少的钱。深思熟虑地拥抱它,并获得杠杆率,洞察力和一个永远不会停止运输改进的社区。
根据“ AI时代的开源”, 76%的领导者计划在未来几年内扩大开放源AI的使用。多模型实用主义的时代已经到来 – 编码是开放的,运动场很广泛,最聪明的组织将学会在两个世界上蓬勃发展。