模型配置(探索)

模型配置(探索)

适用范围

在以下情况使用此页面:

  • 探索未来的模型选择 + 认证配置文件想法

本文档捕获了未来模型配置的想法。它不是发布规范。对于当前行为,请参阅:

动机

操作员想要:

  • 每个提供商多个认证配置文件(个人与工作)。
  • 简单的 /model 选择,具有可预测的回退。
  • 文本模型和能够处理图像的模型之间的清晰分离。

可能的方向(高层次)

  • 保持模型选择简单:provider/model,带有可选别名。
  • 让提供商拥有多个认证配置文件,具有明确的顺序。
  • 使用全局回退列表,以便所有会话一致地故障转移。
  • 仅在显式配置时覆盖图像路由。

未解决的问题

  • 配置文件轮换应该是每个提供商还是每个模型?
  • UI 应该如何为会话显示配置文件选择?
  • 从旧配置键迁移的最安全路径是什么?