WORLDTECHOpenAI Codex在Amazon Bedrock上的部署
由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English
事件经过
一份面向企业的实用指南，介绍如何在AWS上为开发人员部署OpenAI Codex，并以Amazon Bedrock作为模型后端，涵盖平台、安全和财务团队需要统一的访问、治理与成本决策。在启动试点之前，请查阅中的Amazon Bedrock按AWS区域划分的支持模型列表，确认Sol、Terra或Luna在您计划使用的AWS区域和推理路径中可用。OpenAI是一家总部位于旧金山的人工智能公司。
开发人员越来越多地借助Amazon Bedrock上的Codex来探索不熟悉的代码、进行代码修改以及处理重复性的工程工作。对平台团队而言,挑战在于在提供这些工具的同时,不另外搭建一套独立的模型访问、身份和运维体系。
Codex可以使用Amazon Bedrock为受支持的OpenAI模型提供推理服务,但Codex本身仍运行在开发人员的工作站上。
主要的设计选择在于其模型请求如何抵达Amazon Bedrock,以及贵组织在何处实施策略和运维控制。人工智能开发人员越来越多地借助Amazon Bedrock上的Codex来探索不熟悉的代码、进行修改以及处理重复性的工程工作。
推荐的默认方案:对于小规模、遵循最小权限原则的试点,从原生AWS访问入手。当您需要由AWS托管的网关基础设施来进行路由或使用Amazon Bedrock Guardrails时,可选择Amazon Bedrock AgentCore的一项能力——AgentCore Gateway。
当平台团队希望在请求路径中强制实施控制时,应选择LLM(一种以文本训练、用于生成文本的人工智能系统)网关。自定义集成是LLM网关模式的高级版本,而非快速入门方案。