复杂任务、高频调用怎么选?在Bedrock上试试GPT-6 Sol 与 Luna

GPT-6 Sol与GPT-6 Luna现已在Amazon Bedrock（仅在海外区域可用）上正式可用。企业可根据不同工作负载的需求，更灵活地选择所需的智能水平与运行效率。

AI能否在规模化应用中创造价值，主要取决于两个方面：模型具备怎样的能力，以及这些能力能否被高频使用。模型能力越强，能够应对的任务复杂度就越高，既能处理复杂而细微的编码问题，也能执行跨工具的多步骤流程。

运行效率越高，意味着这些能力越容易被广泛用于日常工作和重复性任务。当请求量不断增加时，每多消耗一个token、增加一次重试或延长一秒响应时间，都会带来累积效应。

GPT-6 Astra适用于推理深度要求较高，并且更看重结果质量的项目。而与此同时，企业也需要把进阶智能应用到支撑产品开发和业务运营的日常任务中。GPT-6 Sol具备较强的推理和编码能力，GPT-6 Luna则适用于目标明确、重复性强且调用量较大的任务，帮助企业控制大规模调用带来的延迟和成本。

GPT-6 Sol与GPT-6 Luna运行在专为规模化应用构建的高性能推理引擎上，同时兼顾安全性与可靠性。企业可根据工作负载对性能、管控能力和灵活性的要求，将GPT-6模型应用于生产环境。

GPT-6 Sol可用于功能开发、问题调试、代码重构与审查、数据分析，以及跨工具和应用执行多步骤流程。相较GPT-5.6 Sol，GPT-6 Sol在编码和计算机使用方面有所改进，可以将任务从问题分析推进到实施与验证，同时保留作出各项决策时所依据的上下文。

随着GPT-6 Sol参与更多工作环节，开发人员需要清楚掌握模型做出了哪些修改、完成了哪些验证，以及还有哪些内容无法确认。根据OpenAI内部事实性评测，GPT-6 Sol产生的事实错误约为GPT-5.6 Sol的一半。GPT-6 Sol还能够更清楚地说明执行过程和结果，帮助团队及时发现信息缺口，并判断哪些环节仍需人工介入。

凭借更强的任务执行能力和更清晰的结果说明，GPT-6 Sol可以减少反复验证和重新执行任务的需要，并覆盖开发周期中的更多环节。因此，评估模型价值时，不能只看单次调用成本，还应综合考虑输出质量、token用量、重试次数和响应延迟，以及获得可用结果所需的整体投入。

当一项任务每天需要执行数千次时，单次调用的效率将直接影响整个工作流能否规模化运行。单独执行一次分类或摘要任务的成本可能不高，但在完整的文档处理流程中，信息提取、任务路由和后续处理产生的成本会随着请求量不断累积。

GPT-6 Luna面向调用量较大的工作负载，可用于从大量文档中提取信息、总结收到的材料、对输入内容进行分类，并为大量用户或应用回答范围明确的问题。

高频任务还要求模型保持稳定一致的输出。OpenAI评测显示，GPT-6 Luna在事实可靠性和结果表述的清晰度方面有所改进。用户还可以针对每次请求调整推理强度，根据具体任务在输出质量、响应速度和成本之间作出平衡。

同一个应用在处理请求的不同阶段，可能需要不同水平的模型能力。例如，企业希望使用GPT-6 Luna对收到的请求进行分类，并使用GPT-6 Sol分析复杂情况；当更深入的推理可能对决策产生实质影响时，再使用GPT-6 Astra。通过这种方式，企业可以把更强的模型能力集中用于价值更高的环节，同时兼顾整个系统的响应速度和成本。

在每个阶段，重复调用同一模型时，往往需要反复使用相同的指令、工具定义、策略和参考资料。如果每次调用都重新处理这些上下文，合理选择模型所带来的效率优势就会被削弱。GPT-6 Sol与GPT-6 Luna支持Amazon Bedrock的显式提示词缓存功能。用户可以标记需要重复使用的提示词内容，使后续请求只需重点处理新增输入。这项功能适用于需要重复使用代码仓库指令的编程助手、依据同一套策略作出响应的支持类应用，以及按照统一规则提取信息的文档处理流程。

随着AI应用规模不断扩大，生产部署不仅要考虑模型质量，还要兼顾基础设施性能、调用成本和敏感数据保护。Amazon Bedrock通过面向规模化应用构建的高性能推理引擎，为GPT-6 Sol和GPT-6 Luna提供相应的性能、安全与管控能力。

用户可以通过Amazon IAM策略管理模型访问权限，并使用Amazon CloudTrail审计每次调用。由Amazon PrivateLink支持的VPC端点，有助于让流量始终处于用户的网络边界内。推理过程运行在硬件隔离的基础设施上，亚马逊云科技运营人员无法在推理期间访问用户的提示词或模型生成结果。

用户的推理数据不会被用于模型训练。使用GPT-6 Sol和GPT-6 Luna时，也无需将数据共享给OpenAI。出于自动滥用检测需要，被分类器标记的请求及响应数据可能由亚马逊云科技保留最长30天，并仅通过自动化程序进行处理。符合条件的用户可通过亚马逊云科技客户团队申请零数据保留。有关具体的数据处理和保留规则，请参阅Amazon Bedrock滥用检测文档和数据保留文档。

用户可以通过Amazon Bedrock控制台或受支持的Amazon Bedrock API使用GPT-6 Sol和GPT-6 Luna。如需了解适用的亚马逊云科技区域、端点、API、功能、推理配置和定价信息，请参阅Amazon Bedrock文档。