忽略上下文視窗限制
上下文視窗限制定義模型記憶的硬性邊界，需要仔細管理 token。
大多數非限制模型支援 100,000 token 的上下文視窗，包含提示和補全。如果您超過此限制，模型會截斷較早的資訊，導致回應不連貫或不相關。開發人員在發送大型程式碼庫或長文件時常忽略這一點。發送請求前請始終計算 token 使用量。使用 /v1/models 端點驗證當前限制。這可確保您的應用程式在負載下行為可預測。
忽略對 JSON 模式的需求
JSON 模式對於與無審查端點的可靠程式化整合至關重要。
當構建解析模型輸出的應用程序時，原始文本可能很混亂。無審查模型可能包括對話填充或不一致的格式。啟用 JSON 模式強制模型輸出嚴格有效的 JSON 對象。這使得解析確定性並減少錯誤處理複雜性。使用 response_format 參數來強制此結構。這對於數據提取任務或將輸出饋送到其他系統特別有用。
假設所有無審查模型都相同
並非所有無審查模型的表現都相同；基準測試分數因使用場景而有顯著差異。
雖然許多模型宣稱為無審查，但它們的底層架構和訓練數據各不相同。有些模型擅長創意寫作，而其他模型則更擅長處理技術程式碼任務。例如，無審查程式碼 AI 模型經過調整，以滿足特定的推理需求，且不會拒絕內容。不要假設一種模式適合所有情況。請在您的特定資料集上測試多種模型。請關注一致性與相關性等效能指標，而不僅僅是審查過濾的移除情況。
忽略長輸出的串流處理
串流降低了長文字生成的感知延遲並改善用戶體驗。
生成長篇回應時，等待完整輸出可能需要幾秒鐘。透過伺服器發送事件 (SSE) 進行串流可讓您在生成 token 時顯示它們。這能保持使用者參與度並提供即時回饋。如果回應變得不相關，它也允許提前終止。大多數現代 SDK 預設支援串流。確保您的客戶端程式碼正確處理部分回應，以避免 UI 故障。
為拒絕請求和錯誤付費
為無效輸出支付拒絕和錯誤的費用會浪費預算。
傳統 API 通常為每次請求收費，無論結果如何。如果模型因過濾器而拒絕提示，您仍然需要付費。我們的預付信用額度模型僅為實際的 token 使用收費。錯誤和拒絕是免費的。這確保您只為有用的推論付費。監控您的使用儀表板以追蹤 token 消耗。調整您的參數以最大限度地減少不必要的重試。這種方法對於高流量應用程式特別具有成本效益。
為 NSFW 選擇錯誤的模型
為 NSFW 內容選擇錯誤的模型可能會導致不必要的拒絕或品質不佳。
並非所有 uncensored 模型對成人內容的處理效果都一樣。某些模型可能仍會表現出微妙的偏見或格式問題。該 uncensored AI 模型旨在針對合法的成人用途無拒絕地回答。這是一個針對此目的進行調整的開源權重模型。確保您選擇的模型符合您的內容要求。使用多樣化的提示詞進行測試以驗證一致性。避免那些聲稱 uncensored 但仍大量過濾的模型。
忽略速率限制和併發性
忽略速率限制和併發性可能會在高峰使用期間導致請求失敗。
大多數 API 實施速率限制以確保穩定性。我們的 API 允許每金鑰每分鐘 300 次請求，並允許 8 個併發請求。超過這些限制將導致錯誤。請根據應用程式的併發需求進行規劃。重試時使用退避策略。監控金鑰使用情況以避免意外限流。這可確保在重載下平穩運行。適當的併發管理對於可靠的生產環境至關重要。
忘記設定 temperature 和 top_p
忘記設定 temperature 和 top_p 可能會導致輸出不一致或重複。
這些參數控制模型回應的隨機性和多樣性。高溫度會增加創造力但可能會降低連貫性。低溫度使輸出更具決定性。根據您的用例調整這些參數。對於編碼任務，較低的值通常更好。對於創意寫作，較高的值可能會產生更有趣的結果。請進行實驗以找到適合您應用程式的最佳平衡點。
