文章同时给出了推理强度的起步设置、成本比较的提醒,以及一套四步迁移流程,对正在评估模型升级的 API 用户有直接的参考价值。
据该帮助文章,GPT-6 Luna 是迁移现有 GPT-4.x 用例的推荐起点。OpenAI 同时表示,最合适的配置取决于具体应用,因此在把生产流量切过去之前,应先在有代表性的负载上评估这款模型。
关于 API 变更和技术细节,文章指向了 GPT-6 开发者指南。
OpenAI 建议迁移时先把推理强度(reasoning effort)设为 none,并称大多数 GPT-4.x 用例预计可以在这一设置下完成迁移。之后可以再测试其他设置,在质量、延迟和成本之间找到适合自己应用的平衡点。
文章称,GPT-6 Luna 的每 token 单价低于本次迁移涉及的 GPT-4.x 模型,对大多数用例而言,是在更低的每 token 价格下提供更强的模型。
OpenAI 同时提醒,token 用量和推理设置都会影响每个任务的成本,迁移前应在自己的负载上比较总成本,而不是只看单价。
指南给出的流程如下:
none 开始,与基线对比结果,并检查应用所依赖的行为,包括输出格式,以及相关场景下的工具调用。自助客户可以通过 help.openai.com 上的聊天气泡联系 OpenAI 支持。销售对接的客户可以联系自己的账户团队,由 OpenAI 工程团队协助制定适合其产品的迁移计划。
这篇帮助文章没有写明任何 GPT-4.x 模型的退役日期。具体时间安排请以 OpenAI 的官方公告为准。