GetAPI.ONE
为任务选择模型
按声明端点与任务筛选当前目录,用自己的样例运行小型评估,并根据测得的质量、延迟与实时成本证据作出选择。
先定义决策
- 写明任务、所需输入输出形状、语言、延迟容忍度与失败成本。
- 选择应用已支持的协议:Responses、Chat Completions、图像、视频或其它声明端点。
- 准备具有代表性的样例与可人工检查的通过条件。
{
"task": "extract support ticket fields",
"endpoint": "openai-response",
"must_pass": ["valid JSON", "required fields", "no invented facts"],
"measure": ["quality", "latency", "live request cost"]
}建立可解释的候选列表
- 打开当前目录,按客户端将调用的准确声明端点筛选。
- 阅读每个候选的有来源描述与实时价格;缺失事实按未知处理。
- 在接受可能计费时,对每个候选运行同一组小型代表性评估。
- 在相同条件下记录输出质量、错误、延迟与观测成本。
- 仅当主模型与回退模型都通过所需契约时才选定它们。
使用评估清单
| 维度 | 记录内容 |
|---|---|
| 契约适配 | 声明端点、必需参数、输出解析与错误处理。 |
| 任务质量 | 根据你审核过的样例判定通过/失败,而不是采用营销排名。 |
| 延迟 | 同一区域、同一请求形状下的中位数与尾部观测。 |
| 成本 | 实时价格加评估中的实际用量记录。 |
| 可靠性 | 你自己的测试窗口内的错误与重试结果。 |
验证预期决策
- 每个候选模型都具备接入所用的声明端点。
- 所选模型通过全部必需样例,而不只是最简单的提示词。
- 选择记录包含观测日期、测试输入、配置与可测量的取舍。
避免选型错误
- 不要因模型名称熟悉就推断端点支持;应使用当前目录声明。
- 不要用不同提示词、区域、输出上限或重试策略比较模型。
- 不要把厂商基准变成 GetAPI.ONE 路由、价格、可用性或你的任务质量证明。