忽略上下文窗口限制
上下文窗口限制定义了模型记忆的硬边界，需要仔细管理 token。
大多数无审查模型支持 100,000 token 的上下文窗口，包括提示和补全。如果超出此限制，模型会截断较早的信息，导致响应不连贯或不相关。开发人员在发送大型代码库或长文档时往往会忽略这一点。在发送请求前始终计算 token 使用量。使用 /v1/models 端点验证当前限制。这确保您的应用在负载下行为可预测。
忽略 JSON 模式的需求
JSON 模式对于与无审查端点的可靠程序化集成至关重要。
在构建解析模型输出的应用程序时，原始文本可能很杂乱。无限制模型可能包含对话填充物或不一致的格式。启用 JSON 模式会强制模型输出严格有效的 JSON 对象。这使得解析具有确定性并减少错误处理复杂性。使用 response_format 参数强制执行此结构。这对于数据提取任务或将输出馈送到其他系统特别有用。
假设所有无审查模型都相同
并非所有无审查模型的性能都相同；基准分数因用例而异。
虽然许多模型声称是无审查的，但其底层架构和训练数据各不相同。有些模型擅长创意写作，而另一些则在处理技术编码任务方面表现更好。例如，无审查代码 AI 模型针对特定推理需求进行了调整，且没有内容拒绝机制。不要假设一种方案适合所有情况。请在您的特定数据集上测试多个模型。查看连贯性和相关性等性能指标，而不仅仅是过滤移除情况。
忽视长输出的流式传输
流式传输降低了长文本生成的感知延迟并改善了用户体验。
生成长响应时，等待完整输出可能需要几秒钟。通过服务器发送事件 (SSE) 进行流式传输允许你在生成令牌时显示它们。这使用户保持参与并提供即时反馈。如果响应变得不相关，它还允许提前终止。大多数现代 SDK 默认支持流式传输。确保你的客户端代码正确处理部分响应，以避免 UI 故障。
为拒绝和错误付费
为失败和错误付费会浪费预算在非功能性输出上。
传统 API 通常对每次请求收费，无论结果如何。如果模型因过滤器拒绝提示词，您仍需付费。我们的预付费余额模型仅对实际的 token 使用收费。错误和拒绝免费。这确保您只为有用的推理付费。监控您的使用仪表板以跟踪 token 消耗。调整您的参数以最大限度地减少不必要的重试。这种方法对于高容量应用特别具有成本效益。
为 NSFW 选择错误的模型
为 NSFW 内容选择错误的模型可能导致不必要的拒绝或质量低下。
并非所有无审查模型对成人内容的处理都同样出色。一些模型可能仍表现出细微的偏见或格式问题。无审查 AI 模型旨在在无内容拒绝的情况下回答合法的成人用途。它是一个为此目的调整的开放权重模型。确保您选择的模型符合您的内容要求。使用多样化的提示进行测试以验证一致性。避免那些声称无审查但仍大量过滤的模型。
忽略速率限制和并发
忽略速率限制和并发可能导致在高峰使用期间请求失败。
大多数 API 实施速率限制以确保稳定性。我们的 API 允许每个密钥每分钟 300 次请求和 8 个并发请求。超过这些限制会导致错误。请相应地规划应用程序的并发性。使用退避策略进行重试。监控你的密钥使用情况以避免意外节流。这确保了在重负载下的平稳运行。适当的并发管理对于可靠的生产环境至关重要。
忘记设置 temperature 和 top_p
忘记设置 temperature 和 top_p 可能导致输出不一致或重复。
这些参数控制模型响应的随机性和多样性。高温度增加创造性但可能降低连贯性。低温度使输出更具确定性。根据您的用例调整这些参数。对于编码任务，较低的值通常更好。对于创意写作，较高的值可能会产生更有趣的结果。通过实验找到适合您应用的最佳平衡点。
