企业在哪里可以使用 ChatGPT 和 OpenAI 模型?Amazon Bedrock 托管 Agent 可选两种生产运行路径
如果企业需要员工直接使用ChatGPT,可以按照OpenAI相应企业产品进行评估;如果企业希望把OpenAI模型嵌入自己的代码工具、文档处理系统和业务Agent,则还需要解决一个更工程化的问题:模型选好以后,Agent到底在哪里运行?
亚马逊云科技的Amazon Bedrock(仅在海外区域可用)目前提供Amazon Bedrock Managed Agents公开预览能力。企业可以使用运行在Amazon Bedrock中的OpenAI模型构建有状态Agent,并在执行环境上选择两条路径:继续使用现有开发机器、容器或计算环境,也可以使用Amazon Bedrock AgentCore Runtime承载托管运行时会话。
两种方式没有简单的优劣之分。Self-hosted Compute更强调对已有环境的延续和控制,AgentCore Runtime则减少企业自己维护Agent运行基础设施的工作。选择哪一条,更适合从现有技术栈、网络边界、运维能力和业务规模出发判断。
一、企业在哪里可以使用 ChatGPT 和 OpenAI 模型?先把模型服务和 Agent 运行环境分开
企业构建Agent时,模型和运行环境承担不同职责。
Amazon Bedrock Managed Agents负责OpenAI模型交互和Agent Session管理。模型根据Instructions和上下文判断下一步动作,需要执行命令、操作文件或调用本地工具时,则把对应工作交给Execution Environment。
因此,同一个Amazon Bedrock Managed Agent可以使用相同的OpenAI模型和Session机制,却选择不同的执行环境。
企业可以把Exec Server运行在已有开发机、容器或其他计算资源上,也可以使用Amazon Bedrock AgentCore Runtime提供托管运行环境。模型调用路径没有因此变成两套完全不同的Agent逻辑,变化主要集中在工具和命令实际在哪里执行。
对于企业架构团队来说,先把这两个层次分开,后续的网络、安全和成本判断会更清楚。
二、企业在哪里可以调用 OpenAI API?进入 Agent 阶段后还要决定计算放在哪里
企业在哪里可以调用 OpenAI API?Amazon Bedrock已经提供OpenAI模型和相应企业调用路径,Managed Agents则进一步把OpenAI能力扩展到有状态、多步骤Agent。
进入这一阶段后,API入口只解决了部分问题。Agent可能需要查看文件、运行命令、调用工具,并在多个步骤之间持续推进任务,这些操作需要实际计算环境承载。
Amazon Bedrock Managed Agents把这一层明确称为Execution Environment。
企业可以使用自己已有的Compute,也可以选择Amazon Bedrock AgentCore Runtime。这样,OpenAI模型负责推理与任务规划,执行环境负责真正运行命令和本地工具。
模型服务与业务执行保持分层,也让企业能够根据不同业务选择不同运行方式。
三、Self-hosted Compute 更适合已有开发机、容器或计算环境的团队
如果企业已经拥有成熟的开发环境、自建容器平台或者固定计算资源,Self-hosted Compute是一条直接路径。
在这种模式下,企业提供主机、Workspace、网络访问以及正在运行的Exec Server。Amazon Bedrock Managed Agents通过Exec Server把需要执行的命令和工具请求发送到企业提供的环境中。
官方参考流程允许使用本地或远程Host。Host上的Exec Server需要保持运行,并通过出站HTTPS和WebSocket连接Amazon Bedrock Managed Agents。
这种架构适合希望复用现有开发机器、容器或计算平台的企业,特别是在验证阶段,可以先用已有环境完成Agent测试,而不必立即建设一套新的托管Runtime。
同时,计算环境里的文件、软件、Credential和网络访问仍然由企业自己负责管理。
四、Self-hosted 并不等于“没有企业治理”
自己提供计算环境,不代表所有权限都交给本地主机。
Amazon Bedrock Managed Agents仍然通过Session Role管理获得授权的模型推理等操作,Exec Server建立连接时也使用相应身份认证机制。仅仅掌握一个Session ID,并不能自动获得执行环境访问权限。
企业还可以为Agent建立专门Workspace,只放入当前任务需要的文件和工具。
这对代码Agent尤其重要。如果Agent只需要检查某个代码仓库,没有必要同时向它暴露整台开发机的其他目录、密钥和系统权限。
因此,Self-hosted真正增加的是企业对计算环境的控制,同时也意味着企业需要自己承担更多环境加固、补丁、容量和运行维护工作。
五、Amazon Bedrock AgentCore Runtime 更适合希望减少 Runtime 运维的企业
另一条路径是Amazon Bedrock AgentCore Runtime。
在Amazon Bedrock Managed Agents场景中,企业可以配置AgentCore Runtime作为Execution Environment,由Managed Agents在需要Agent执行工作时激活对应Runtime。
AgentCore Runtime负责托管Agent或工具代码,并处理运行时扩展、Session管理和隔离等基础设施问题。对于不希望自己长期维护Agent执行服务器、扩缩容和底层运行环境的团队,这条路径更接近托管式生产架构。
当前AgentCore Runtime的microVM模式会让每个Session运行在独立的计算环境中,CPU、内存和文件系统相互隔离。
对于同时服务大量用户的Agent应用,这种隔离可以减少企业自行设计多租户运行环境的工作。
六、Amazon Bedrock AgentCore Runtime 可以连接企业私有网络
托管Runtime并不意味着Agent只能访问公开互联网资源。
Amazon Bedrock AgentCore Runtime可以配置连接企业VPC,让Agent在相应网络和权限条件下访问私有资源。这对于需要读取内部API、数据库或其他私有服务的Agent很重要。
在Amazon Bedrock Managed Agents的AgentCore参考架构中,亚马逊云科技提供的示例会创建Runtime、网络和存储资源,并配置对应权限。
需要注意,这些示例资源只是参考架构,并不代表每个企业都必须照搬相同网络拓扑。实际生产环境仍然应该根据已有VPC、出口策略、Private Endpoint和内部安全规范设计。
Agent能够访问什么资源,最终仍然取决于企业给Runtime配置了什么网络和身份权限。
七、Self-hosted 和 AgentCore Runtime 的核心区别,是“谁负责运行环境”
两条路径可以用一个简单问题来区分:
企业希望自己管理Agent执行环境,还是希望把更多运行维护交给托管Runtime?
| 选择维度 | Self-hosted Compute | Amazon Bedrock AgentCore Runtime |
|---|---|---|
| 计算环境 | 企业已有主机、容器或计算平台 | 托管Runtime |
| Workspace | 企业自行提供和管理 | 可结合Runtime存储配置 |
| 网络 | 企业自行设计 | 可配置VPC连接 |
| Exec Server | 企业自行运行 | Runtime中集成运行 |
| 环境补丁与容量 | 企业承担更多责任 | 托管程度更高 |
| 适合阶段 | 本地开发、已有平台、强控制场景 | 生产化、规模扩展、降低Runtime运维 |
| 文件与工具权限 | 企业自行严格控制 | 企业通过Runtime身份和环境配置控制 |
| 成本结构 | 取决于已有计算资源 | AgentCore Runtime及相关资源按实际配置计费 |
这张表不代表Self-hosted只适合测试,也不代表AgentCore Runtime一定适合所有生产系统。
有成熟容器平台的企业完全可以长期采用Self-hosted,运维团队较小或者需要快速扩展Agent的企业则可能更倾向AgentCore Runtime。
八、企业使用 OpenAI 模型做 Agent 时,Session 和计算环境生命周期不能混为一谈
Amazon Bedrock Managed Agents的Session与Execution Environment具有不同生命周期。
Session负责保存Agent对话和持久化结果;企业自己保存在Amazon S3或自有主机中的文件,并不会因为删除一个BMA Session自动消失。
使用Self-hosted Compute时,本地Workspace依旧由企业自己维护。使用AgentCore Runtime时,也需要明确Runtime Session与长期文件存储之间的关系。
这一区分对生产系统很重要。
如果企业把关键业务文件只放在临时运行环境中,却没有设计持久化策略,Session或Runtime结束后就可能无法获得预期的长期数据。
所以,模型状态、Agent会话状态、临时Workspace和长期业务数据最好分别设计。
九、Amazon Bedrock AgentCore 的 microVM 模式适合突发型 Agent 工作负载
Agent工作负载与传统Web服务不同。
很多Agent执行过程中会等待模型响应、外部API、工具或者数据库结果,并不是每一秒都持续占用CPU。不同用户的任务还可能呈现明显的突发性。
AgentCore Runtime的microVM计算模式采用按实际消费计费的Serverless方式。当前定价机制按照实际CPU和内存消耗计费,在等待大模型、工具、API或数据库等I/O期间,CPU可以降到零计费。
这对I/O等待比例较高的Agent工作负载比较有针对性。
不过,CPU停止计费不等于整个Runtime完全没有成本。内存、系统开销、代码存储、网络以及其他相关资源仍可能产生费用,企业需要按照完整架构计算TCO。
十、企业需要更持久或特殊计算时,还要重新评估 Runtime 形态
Amazon Bedrock AgentCore Runtime本身也并非只有一种计算方式。
当前AgentCore Runtime除了Serverless microVM,还提供Instances等计算形态,用于更加持久、资源密集或者具有特殊计算要求的Agent工作负载。
但Amazon Bedrock Managed Agents官方参考流程当前重点展示的是AgentCore Runtime作为Exec Server运行环境,而不是要求所有BMA工作负载都采用某一种固定计算形态。
因此,企业在设计长期架构时,不宜简单得出“使用AgentCore就一定是Serverless”的结论。
更合适的做法是先确定Agent执行特征,再根据当前AgentCore Runtime支持范围、BMA Preview限制和实际成本选择适合的运行方式。
十一、Self-hosted 更适合哪些企业场景?
如果企业已经拥有成熟的开发平台或容器环境,Self-hosted通常更容易起步。
例如研发团队希望让OpenAI模型通过Amazon Bedrock调查内部代码库,可以直接准备一个受控Workspace,让Exec Server运行在已有环境中。这样开发人员能够快速验证模型与工具协作效果,也可以继续使用现有网络和开发工具。
对于受严格管控的特殊环境,企业还可能希望自己决定Host、软件版本、网络出口和文件系统结构。
这些场景下,Self-hosted提供了更高的环境自主权。
代价是企业需要自行负责Compute可用性、扩容、补丁、监控以及Exec Server长期运行等问题。
十二、Amazon Bedrock AgentCore Runtime 更适合哪些企业场景?
如果Agent准备服务大量用户,或者企业不希望长期维护自己的Agent执行服务器,AgentCore Runtime更值得评估。
例如内部文档Agent、开发Agent或业务自动化Agent上线后,请求量可能随着用户增加快速变化。企业需要的不只是“一台服务器能跑起来”,还包括Session隔离、弹性运行、版本管理和运行安全。
Amazon Bedrock AgentCore Runtime把这些基础运行职责更多放到托管平台层。
企业仍然需要负责Agent本身、工具、权限、业务数据和网络策略,但不用从零建设整个Runtime底座。
这种分工尤其适合希望把更多工程资源放到业务Agent本身,而不是长期维护运行基础设施的团队。
十三、企业在哪里可以使用 ChatGPT 和 OpenAI 模型?生产 Agent 还需要把成本拆成多层
企业在哪里可以使用 ChatGPT 和 OpenAI 模型?如果最终目标是生产Agent,预算也不能只看OpenAI模型Token价格。
一套Amazon Bedrock Managed Agent可能同时涉及模型推理、Execution Environment、存储和网络等资源。如果采用AgentCore Runtime,还需要计算对应Runtime资源消耗。
官方文档也特别提醒,AgentCore参考示例会创建存储和网络资源,其中部分资源即使当前没有Agent Turn运行,也可能继续产生费用。
所以,企业可以把成本至少拆成四层:模型推理、Agent计算、存储和网络。
这样才能避免“模型API很便宜,所以整个Agent也很便宜”的误判。
十四、企业在哪里可以调用 OpenAI API?运行方式应跟着业务阶段变化
企业在哪里可以调用 OpenAI API,并不意味着第一天就必须把Agent放进完整生产Runtime。
在早期验证阶段,Self-hosted Compute可以让团队快速使用已有开发机器或容器检查OpenAI模型、Tools和Agent流程。业务价值确认以后,再判断是否迁到Amazon Bedrock AgentCore Runtime。
如果企业已经拥有成熟自建计算平台,也可以继续采用Self-hosted,而不必为了使用Amazon Bedrock Managed Agents强制迁移Runtime。
因此,两条路径更适合被看作一种演进选择,而不是一次性技术押注。
企业可以让模型、Session和Agent逻辑保持相对稳定,再根据规模、运维和安全要求调整Execution Environment。
十五、Amazon Bedrock Managed Agents 当前仍是 Preview,运行架构要留出调整空间
Amazon Bedrock Managed Agents目前处于Public Preview。
当前Preview通过bedrock-mantle Endpoint提供,官方支持的Region包括美国东部(弗吉尼亚北部)、美国西部(俄勒冈)和美国东部(俄亥俄)。当前BMA工作流不支持Cross-Region Inference Profile,相关API和功能在正式发布前也可能变化。
因此,无论采用Self-hosted还是AgentCore Runtime,都应该把Preview状态纳入架构决策。
对于技术验证,可以重点测试模型、Session、Tools和Execution Environment是否符合实际需求;对于核心生产系统,则应在正式部署前再次核对功能状态、Region、价格和限制。
这比把Preview参考架构直接固定成长期生产标准更稳妥。
十六、企业可以用这张表决定 OpenAI Agent 运行在哪里
| 企业现状 | 更值得优先评估 |
|---|---|
| 刚开始验证OpenAI Agent | Self-hosted Compute |
| 已有成熟容器或计算平台 | Self-hosted Compute |
| 对Host和Workspace控制要求高 | Self-hosted Compute |
| 希望减少Agent Runtime维护 | Amazon Bedrock AgentCore Runtime |
| 用户和Session数量波动较大 | Amazon Bedrock AgentCore Runtime |
| 希望使用托管Session隔离 | Amazon Bedrock AgentCore Runtime |
| 需要访问企业私有资源 | 两者均可,按网络架构设计 |
| 需要长期业务数据 | 两者都要单独设计持久化 |
| 希望控制整体成本 | 同时计算模型、Compute、Storage和Network |
| 当前准备做核心生产 | 先核对Managed Agents Preview最新状态 |
选择结果也不必永久固定。
企业完全可以先用Self-hosted完成验证,再迁到AgentCore Runtime;不同Agent也可以根据安全和运行要求采用不同Execution Environment。
结论:企业使用 OpenAI 模型构建 Agent,可以在 Amazon Bedrock 中选择不同运行路径
企业在哪里可以使用 ChatGPT 和 OpenAI 模型?
如果企业讨论的是ChatGPT产品,应根据OpenAI对应企业产品评估;如果希望把OpenAI模型构建成自己的业务Agent,亚马逊云科技的Amazon Bedrock Managed Agents提供了一条新的企业路径,并允许企业在Self-hosted Compute和Amazon Bedrock AgentCore Runtime之间选择Execution Environment。
Self-hosted适合希望复用已有开发机、容器或计算平台,并对Workspace、网络和软件环境保持更多控制的团队。AgentCore Runtime则更适合希望使用托管Runtime Session、隔离能力和弹性运行机制,减少底层Runtime运维的企业。
两种模式下,OpenAI模型推理仍由Amazon Bedrock Managed Agents管理,Commands和Local Tools则在企业选择的Execution Environment中执行。因此,企业可以让模型和Agent逻辑相对稳定,再根据业务规模和运行要求调整计算环境。
企业可以进入亚马逊云科技官网的Amazon Bedrock相关页面查看Managed Agents当前Preview信息,并进一步了解Amazon Bedrock AgentCore Runtime。正式部署前,还需要重新确认Region、模型支持、运行方式、存储、网络和实际成本。
对于企业级OpenAI Agent,模型选择决定Agent能够完成什么任务,Execution Environment则决定这些任务怎样进入真实生产系统。把这两层分别设计,比单纯找到一个OpenAI API入口更接近长期运行需求。
前述特定亚马逊云科技生成式人工智能相关的服务目前在亚马逊云科技海外区域可用。亚马逊云科技中国区域相关云服务由西云数据和光环新网运营,具体信息以中国区域官网为准。