Menlo Ventures成立于1976年，总部位于美国加利福尼亚州，是一家风险投资与私募股权公司。 该公司主要关注网络安全、智能云服务和生命科学领域，投资不同发展阶段的企业。 至今，Menlo Ventures已投资70多家上市公司，管理资金超过50亿美元。 代表性 AI 投资案例包括 Anthropic，Inflection AI 和 Jasper AI。
近期发布了2024 生成式 AI 企业现状报告： 本总结了 2024 年 9 月 24 日至 10 月 8 日期间对 600 名拥有 50 名或更多员工的企业的美国 IT 决策者进行的调查数据。在这些基础数据中叠加叠加改领域投资者的观点与见解。
从试点到生产
2024 年是生成式 AI 成为企业任务关键型要务的一年。这些数字说明了一个戏剧性的故事：今年的 AI 支出1 飙升至 138 亿美元，是 2023 年 23 亿美元的 6 倍多，这清楚地表明企业正在从实验转向执行，将 AI 嵌入其业务战略的核心。
支出的激增反映了一波组织乐观主义;72% 的决策者预计在不久的将来会更广泛地采用生成式 AI 工具。这种信心不仅仅是推测性的，生成式 AI 工具已经深深嵌入到从程序员到医疗保健提供者的专业人士的日常工作中。
尽管前景乐观且投资不断增加，但许多决策者仍在弄清楚什么对他们的企业有用，什么不会有用。超过三分之一的受访者对如何在其组织中实施生成式 AI 没有明确的愿景。这并不意味着他们在没有方向的情况下进行投资;它只是强调我们仍处于大规模转型的早期阶段。企业领导者才刚刚开始了解生成式 AI 将对其组织产生的深远影响。
去年，我们的《2023 年企业生成式 AI 现状报告》记录了早期 AI 实验的时期。我们的 2024 年报告扩展为包括 600 位美国企业领导者的见解，揭示了随着组织从试点转向生产而出现的趋势，使 AI 成为企业的当务之急。
生成式 AI 支出表明企业承诺不断增长
如今，企业生成式 AI 投资的 60% 来自创新预算，这反映了生成式 AI 采用的早期阶段。然而，随着 40% 的生成式 AI 支出来自更持久的预算（其中 58% 来自现有拨款），企业正在展示对 AI 转型的日益增长的承诺。
信息很明确。生成式 AI 正在从未来技术转变为基本业务工具。
虽然基础模型投资仍然在企业生成式 AI 支出中占主导地位，但应用层现在增长得更快，这得益于基础设施级别的合并设计模式。公司通过使用这些工具优化跨行业的工作流程，为更广泛的创新铺平道路，从而创造巨大的价值。
在以下部分中，我们将探讨企业生成式 AI 采用的两个关键维度：
- 应用层中，出现突破，也为初创企业开辟了绿地市场；
- 现代 AI 堆栈中，LLM 装备竞赛正重塑竞争格局，而特定的基础设施模式在得到广泛应用。
深入探讨应用程序：应用程序层正在升温
2024 年，大部分行动都发生在应用程序层。随着许多架构设计模式的建立，应用层公司正在利用 LLMs 跨域的功能来解锁新的效率和能力。企业买家正在抓住时机，到 2024 年向生成式 AI 应用程序投入 46 亿美元，比去年报告的 6 亿美元增长了近 8 倍。
公司不仅花费更多;他们想得更远。平均而言，组织已经确定了这项变革性技术的 10 个潜在用例，预示着广泛而雄心勃勃的目标。其中近四分之一 （24%） 被优先用于近期实施，凸显了实际部署的强劲势头。这仅仅是个开始。大多数公司仍处于采用的早期阶段，只有少数用例正在生产中，而其中三分之一 （33%） 仍在进行原型设计和评估。
企业内部：对最有价值的用例进行排名
尽管正在进行实验，但明显的采用趋势表明，一部分用例已经通过提高生产力或运营效率带来了切实的投资回报率：
- Code copilots 以 51% 的采用率领先，使开发人员成为 AI 最早的高级用户。GitHub Copilot 的收入运行率迅速上升到 3 亿美元，验证了这一轨迹，而 Codeium 和 Cursor 等新兴工具也在快速增长。除了通用的编码助手外，企业还购买了特定于任务的副驾驶，如 Harness'* AI DevOps Engineer 和 QA Assistant，用于管道生成和测试自动化，以及 All Hands* 等能够执行更多端到端软件开发的 AI 代理。
- 支持聊天机器人已获得大量使用，企业采用率达到 31%。这些应用程序为内部员工和外部客户提供可靠的 24/7 基于知识的支持。Aisera*、Decagon 和 Sierra 的座席直接与最终客户互动，而 Observe AI* 则支持联络中心座席在通话期间提供实时指导。
- 企业搜索 + 检索和数据提取 + 转换（分别为 28% 和 27%）反映了解锁和利用隐藏在分散在组织中的数据孤岛中的宝贵知识的强大动力。Glean 和 Sana* 等解决方案可连接到电子邮件、信使和文档存储，从而支持跨不同系统的统一语义搜索，并提供人工智能驱动的知识管理。
- 会议摘要在用例中排名第五（采用率 24%），通过自动化记笔记和外卖来节省时间并提高工作效率。Fireflies.ai、Otter.ai 和 Sana 等工具捕获和总结在线会议，而 Fathom 从视频中提取关键点。Eleos Health* 将这项创新应用于医疗保健，实现数小时记录的自动化，并直接与 EHR 集成，以便医疗保健提供商可以专注于患者护理。
我们的数据显示，组织主要投资于实际的、以 ROI 为导向的用例。前 5 大使用案例（代码生成、聊天机器人、企业搜索、数据转换和会议摘要）侧重于提高生产力和效率
代理和自动化：AI 掌舵
当前的实施模式表明，与完全自动化相比，人们更倾向于增强人工工作流程。但我们现在才刚刚接近向更自主的解决方案过渡。各行各业都出现了 AI 驱动的代理能够独立管理复杂的端到端流程的早期示例。Forge 和 Sema4 等金融后台工作流程的先驱，以及 Clay 的上市工具，展示了完全自主的生成式 AI 系统如何改变传统上由人类主导的行业，指向未来的“服务即软件”时代，人工智能驱动的解决方案提供传统服务提供商的能力，但完全通过软件运行。
构建 vs. 购买？具体问题具体分析
在决定构建或购买时，公司揭示了几乎相等的分配：47% 的解决方案是内部开发的，而 53% 的解决方案来自供应商。这与 2023 年相比发生了明显的转变，当时我们报告称 80% 的企业依赖第三方生成式 AI 软件，这表明许多企业越来越有信心和能力建立自己的内部 AI 工具，而不是主要依赖外部供应商。
长期游戏：企业在生成式 AI 采用中优先考虑价值而不是快速取胜
在选择生成式 AI 应用程序时，企业有明确的优先事项：在选择新工具时，投资回报和行业特定的定制最为重要。令人惊讶的是，价格并不是一个主要问题;在我们调查的企业领导者中，只有 1% 提到价格是一个选择问题。买家正在玩长期游戏：与提供最低价格的工具 （1%） 相比，他们更关注能够提供可衡量价值 （30%） 和了解其工作独特背景 （26%） 的工具。
尽管企业正在努力提高投资回报率和定制，但他们可能会错过实施难题的关键部分。通常，组织发现他们低估了技术集成、持续支持和可扩展性的重要性，为时已晚。这有点像仅仅根据燃油效率购买汽车，后来才意识到服务可用性和易于维护性在长期内同样重要。
当 AI pilot 出现故障或失速时，通常是由于在选择过程中没有充分考虑挑战问题。尽管大部分买家不会检查价格，但 26% 的失败案例提到了实施成本，这常常让他们措手不及。数据隐私障碍（21%）和令人失望的投资回报率 (ROI)（18%）会偏离执行方向。而技术问题，尤其是幻觉（15%），也是失败的主要原因。在规划和选择阶段主动解决这些潜在陷阱可以显著增加成功实施的可能性。
补强与突破：现有企业更容易受到初创公司颠覆的影响
去年，老牌企业以“附加”战略主导了企业市场，该战略将生成式 AI 功能分层到现有产品上。我们预测初创公司将越来越多地取得进展，今年的数据验证了我们的想法：虽然 64% 的客户仍然更喜欢从老牌供应商那里购买，理由是信任和开箱即用的功能，但现有优势开始出现裂缝。我们的数据显示，人们越来越不满：18% 的决策者对现有产品表示失望;而 40% 的受访者质疑他们当前的解决方案是否真正满足他们的需求，这表明创新初创公司有机会介入并提出自己的主张。
各部门转型
如今，生成式 AI 采用的惊人之处不仅在于规模，还在于范围。今年，生成式 AI 预算流向了每个部门。
毫不奇怪，技术部门的支出份额最大，IT （22%）、产品 + 工程 （19%） 和数据科学 （8%） 合计占所有企业生成式 AI 投资的近一半。其余预算分配给面向客户的职能部门，如支持部门 （9%）、销售部门 （8%） 和营销部门 （7%）、包括人力资源和财务在内的后台团队（各占 7%），以及设计部门 （6%） 和法务部门 （3%）。
垂直 AI 应用的兴起
第一个生成式 AI 应用程序是用于文本和图像生成的横向解决方案，但 2024 年，越来越多的应用程序在将 LLMs 的新功能应用于高度特定于领域的垂直工作流时发现了吸引力。以下垂直领域正在引领采用：
- 医疗保健：传统上，医疗保健技术采用速度较慢，但现在以 5 亿美元的企业支出引领生成式 AI 的采用。Abridge、Ambience、Heidi 和 Eleos Health 等环境抄写员正在成为医生办公室的主打产品，而自动化解决方案则在整个临床生命周期中出现——从分诊和接收（例如 Notable）到编码（例如 SmarterDx、Codametrix）和收入周期管理（例如 Adonis、Rivet*）。
- 法律：法律行业（企业 AI 支出 3.5 亿美元）历来抵制技术，现在正在采用生成式 AI 来管理大量非结构化数据并自动执行基于模式的复杂工作流程。该领域大致分为诉讼法和交易法，具有众多子专业。Everlaw* 植根于诉讼，专注于法律保留、电子取证和审判准备，而 Harvey 和 Spellbook 正在通过合同审查、法律研究和并购解决方案推动 AI 在交易法中的应用。特定实践领域也是针对 AI 创新的目标：EvenUp 专注于伤害法，Garden 专注于专利和知识产权，Manifest 专注于移民和就业法， 而 Eve* 正在重塑从客户接收到解决的原告案件工作。
- 金融服务：凭借其复杂的数据、严格的法规和关键的工作流程，金融服务（企业 AI 支出 1 亿美元）已准备好进行 AI 转型。Numeric* 和 Klarity 等初创公司正在彻底改变会计领域，而 Arkifi 和 Rogo 则通过高级数据提取加速金融研究。Arch* 正在使用 AI 来破坏 RIA 和投资基金的后台流程。Orby 和 Sema4 是更广泛的横向解决方案，从对账和报告开始，而 Greenlite 和 Norm AI 提供实时合规性监控，以跟上不断变化的法规。
- 媒体和娱乐：从好莱坞银幕到创作者的智能手机，生成式 AI 正在重塑媒体和娱乐（企业 AI 支出 1 亿美元）。Runway 等工具现在是工作室级的主打产品，而 Captions 和 Descript 等应用程序则为独立创作者提供支持。Black Forest Labs、Higgsfield*、Ideogram、Midjourney 和 Pika 等平台为专业人士突破了图像和视频创作的界限。
深入探讨：基础设施和现代 AI 堆栈
经过一年的快速发展，现代 AI 堆栈在 2024 年趋于稳定，企业围绕构成大多数生产 AI 系统运行时架构的核心构建块进行整合。
基础模型仍然占主导地位。LLM 层获得了 65 亿美元的企业投资。然而，通过反复试验，企业越来越了解数据基架和集成在构建复杂的复合 AI 架构方面的重要性，这些架构可以在生产中可靠地执行，而不仅仅是作为一次性演示。
LLM 趋势：OpenAI 将地盘让给 Anthropic，多模型策略盛行
企业不再依赖单一提供商，而是采用了务实的多模型方法。我们的研究表明，组织通常会在其 AI 堆栈中部署三个或更多基础模型，并根据用例或结果路由到不同的模型。这种策略延伸到开源与闭源的争论，尽管行业讨论激烈，但偏好仍然保持稳定。闭源解决方案以 81% 的市场份额支撑了绝大多数使用，而开源替代方案（以 Meta 的 Llama 3 为首）稳定在 19%，比 2023 年仅下降了一个百分点。
在闭源模型中，OpenAI 的先发优势有所削弱，企业市场份额从 50% 下降到 34%。主要受益者是 Anthropic*，当新模型成为最先进的时，一些企业从 GPT-4 转向 Claude 3.5 Sonnet，该公司的企业影响力从 12% 增加到 24%。当迁移到新的 LLM，组织最常将安全考虑 （46%）、价格 （44%）、性能 （42%） 和扩展功能 （41%） 作为动机。
基础模型环境继续快速发展。Anthropic 于 2024 年 10 月 22 日发布了 Claude 3.5 十四行诗，具有包括计算机使用在内的开创性功能，这表明市场份额可能会进一步增加。
设计模式趋势：RAG 增益、微调罕见、Agent 爆发
企业 AI 设计模式（用于构建高效、可扩展的 AI 系统的标准化架构）正在迅速发展。RAG（检索增强一代）现在以 51% 的采用率占据主导地位，比去年的 31% 大幅上升。与此同时，微调（经常被吹捧，尤其是在领先的应用程序提供商中）仍然非常罕见，只有 9% 的生产模型进行了微调。
而今年最大的突破是什么？Agent 架构首次亮相，已经为 12% 的实施提供支持。
矢量数据库、ETL 和数据管道：RAG 的基础
为了支持 RAG，企业必须有效地存储和访问相关的查询知识。虽然 Postgres （15%） 和 MongoDB （14%） 等传统数据库仍然很常见，但 AI 优先的解决方案继续取得进展。AI 原生向量数据库 Pinecone *已经占据了 18% 的市场份额。数据 ETL/准备 也发生了类似的转变。传统的 ETL 平台（例如 Azure Document Intelligence）仍占部署的 28%，但 Unstructured 等旨在处理文档（如 PDF 和 HTML）中非结构化数据细微差别的专用工具正在开辟自己的空间，占据 16% 的市场份额。在整个堆栈中，我们看到了对专为满足现代 AI 需求而构建的技术的需求。
我们的预测
2024 年是过渡和进化的一年，因为我们在 2023 年记录的炒作浪潮让位于现实世界的实施。根据我们今天分享的数据以及我们作为投资者观察到的趋势，以下是我们对未来的三项预测：
- Agents 将推动下一波转型。代理自动化将推动下一波人工智能转型，解决复杂、多步骤的任务，这些任务超出了当前专注于内容生成和知识检索系统的能力。Clay 和 Forge 等平台预示着高级助理将如何颠覆价值 4000 亿美元的软件市场，并蚕食价值 10 万亿美元的美国服务经济。这一转变将需要新的基础设施：助理身份验证、工具集成平台、人工智能浏览器框架以及用于人工智能生成代码的专用运行状态。
- 大卫击败歌利亚：更多现任者倒台。ChatGPT 今年对 Chegg 和 Stack Overflow 的破坏敲响了警钟：Chegg 的市值蒸发了 85%，而 Stack Overflow 的网络流量减少了一半。其他类别已经成熟，可以进行颠覆。Cognizant 等 IT 外包公司和 UiPath 等传统自动化公司应该为进入其市场的 AI 原生挑战者做好准备。随着时间的推移，即使是 Salesforce 和 Autodesk 等软件巨头也将面临 AI 原生挑战者。
- 看不到缓解的迹象：AI 人才短缺加剧。我们正处于大规模人才干旱的边缘。随着 AI 系统的激增和变得更加复杂，科技行业将面临严重的稀缺性。这不仅仅是数据科学家的短缺，而且是能够将高级 AI 功能与特定领域的专业知识联系起来的专家的关键缺口。人才库已经低到危险的程度。为激烈的竞争做好准备，并为已经高薪的 AI 技能企业架构师提供 2-3 倍的薪水溢价成为常态。尽管在培训计划和 AI 卓越中心方面进行了投资，但差距将超过这些努力，从而加剧了对推动下一波 AI 创新所需的有限人才的激烈竞争。
这仅仅是个开始
AI 正在为由尖端 AI 工具、赋能的员工队伍和变革性商业模式驱动的转型新时代铺平道路，这些模式将重塑我们的经济。我们在产品组合中亲眼目睹了这种转变：
- 人工智能使诺贝尔奖获得者科学家、Vilya 和Xaira Therapeutics 的联合创始人 David Baker 能够通过计算生成新的潜在药物并预测其结构和功能，从而帮助加速为有需要的患者开发新的救生疗法。
- AI 使 Continental、Michelin 和 Nestlé 等制造商能够捕获部落知识并保持高标准的工厂工作。使用 Squint，他们将教学材料转化为身临其境的增强现实体验，提供实时的分步指导和验证，以提高安全性、减少操作员错误并确保一致的吞吐量。
- AI 使公司能够更快、更可靠地识别顶尖工程人才，使用 CodeSignal 通过自动化编码评估、个性化问题难度和检测抄袭来更准确和高效地评估技术技能。
- AI 使 Abnormal Security 能够保护公司免受网络钓鱼和商业电子邮件泄露等复杂的电子邮件威胁，通过检测异常并在攻击造成伤害之前阻止攻击，每年防止高达 400 万美元的潜在损失。
- AI 使各行各业的财富 500 强品牌能够使用 Typeface 大规模制作个性化的品牌内容。借助 Typeface，品牌可以将广告产量翻两番，将制作时间缩短一半，每月节省数百小时，同时提供能引起顾客共鸣的引人入胜的内容。
Menlo Ventures 的团队很高兴能成为这一转型的一部分，为那些突破 AI 可能性界限的创始人提供支持。我们的投资组合公司 — 包括 Abnormal Security、Anthropic、Arch、Cleanlab、Eleos、Genesis Therapeutics、Harness、Higgsfield、Neon、OpenSpace、Pinecone、Recursion、Sana、Squint、Typeface、Unstructured、Vilya 和 Xaira—展示 AI 如何改变行业并创造使数百万人受益的全新工具和业务。我们离实现智能企业的潜力越来越近了。如果您是准备留下自己印记的创始人，请联系我们。
Menlo Ventures 全力以赴开发 AI。让我们一起构建 AI 的未来。
备注：数据来源和方法
本报告总结了 2024 年 9 月 24 日至 10 月 8 日期间对 600 名美国拥有 50 名或以上员工企业的 IT 决策者进行的调查数据。在这些基础数据上，我们叠加了该领域活跃投资者的观点和见解。
生成式 AI 支出包括用于基础模型、模型训练 + 部署、AI 专用数据基础设施以及来自初创公司和现有企业（例如 Microsoft Copilot、Salesforce Agentforce、Adobe Firefly）的新型生成式 AI 应用程序的资金。请注意，此市场规模不包括芯片（例如 Nvidia）、计算（例如 AWS、GCP、Azure）或 AI 功能（例如 Intuit Assist）的收入。
