無審查 AI 生產檢查清單

驗證端點相容性

第一步是確認您的客戶端程式庫連線至正確的基礎 URL。我們的服務提供標準的 /v1/chat/completions 端點完全複製 OpenAI 的結構。這意味著您可以在現有的 SDK 設定中交換基礎 URL，而無需重寫核心邏輯。

• 使用 https://api.hereticproject.com/v1 作為您的基礎 URL。
• 傳送請求至 POST /v1/chat/completions.
• 透過 GET /v1/models.

不要假設存在其他端點。我們不提供嵌入、圖像或音訊生成。如果您的應用程式依賴多模態輸入，這個單一模型 API 可能不符合您的需求。堅持使用「文本輸入、文本輸出」的工作流程以獲得最佳結果。

測試上下文視窗限制

我們的模型支援 100,000 個 token 的上下文視窗，允許大量的對話歷史記錄或大型文件處理。此限制適用於輸入 token 和輸出 token 的總和。您可以保留大量的先前對話而不會失去連貫性。

在設計應用程式時，請確保準確追蹤 token 用量。如果您超出限制，API 將返回錯誤。使用最終串流區塊中的 token 用量數據來即時監控您的消耗情況。這有助於您保持在預算內，並避免對話歷史被意外截斷。

檢查 Token 輸出約束

每個請求最多可返回 16,000 個 token 的輸出。若您未指定 max_tokens 參數，預設限制為 2,048 個記號。此約束確保了一致的效能和可預測的延遲，以服務您的使用者。

對於長篇創意寫作或詳細的程式碼生成，請始終設置 max_tokens 參數明確設定。這可防止模型因空間不足而在句子中間截斷。您也可以設定較低的限制以控制成本，如果您只需要短回應的話。API 根據實際使用量收費，因此精確的控制有助於管理您的預付信用點數。

優化使用者體驗的串流功能

透過伺服器發送事件（SSE）串流透過在產生時交付 token，提供更順暢的使用者體驗。這降低了感知延遲，特別是對於較長的回應。串流的最後一個 chunk 包含總 token 用量，讓您能即時更新計費儀表板。

在前端或後端服務中實作串流客戶端。正確處理部分 token 以避免破壞 UI。這種方法對於期望即時回饋的聊天介面至關重要。如果沒有串流，使用者可能需要等待幾秒鐘才能收到完整回應，導致體驗不佳。

驗證函式呼叫

API 支援函數呼叫（工具）和工具選擇，使您的應用程式能夠與外部系統互動。您可以在請求中定義工具，並讓模型決定何時使用它們。這對於構建能夠獲取數據、更新資料庫或執行計算的代理程式至關重要。

確保您的工具定義符合預期的 JSON schema。模型將在回應中返回工具呼叫，您必須執行這些呼叫並將結果傳回對話。此迴圈允許進行複雜的多步驟工作流程。測試模型可能幻覺化工具參數的邊界情況，以確保健壯性。

設置 JSON 模式以獲取結構化數據

對於需要嚴格輸出格式的應用，請使用 response_format 參數設定為 {"type": "json_object"}. 這可強制模型回傳有效的 JSON，這對於程式化解析資料至關重要。這能減少對複雜事後處理或正則表達式擷取的需求。

無論如何都應驗證 JSON 輸出，因為沒有模型是完美的。然而，此模式顯著提高了結構化資料擷取的可靠性。將其用於從自然語言提示直接產生設定檔、資料庫查詢或 API 載荷。

設定溫度和 Top P

調整 temperature 和 top_p 控制模型的隨機性。較低的值會使輸出更具決定性且集中，較高的值則鼓勵創意與多樣性。由於該模型具有無審查特性，即使在低溫度下也可能產生多樣的輸出。

從溫度 0.7 開始，以平衡創意與連貫性。在腦力激盪任務中提高溫度，或在事實檢索時降低溫度。該 top_p 參數的作用類似，透過限制採樣記號的機率質量來進行限制。請嘗試這些設定，以找到適合您特定使用情境的語氣。

監控使用情況與成本

定價透明：每 1M 輸入 token 為 $0.15，每 1M 輸出 token 為 $0.50。您只為所用付費，無月度訂閱。錯誤和拒絕回應免費，因此您只為成功的回應付費。此模型適合高用量應用程式，其中成本可預測性很重要。

透過 API 回應追蹤您的 token 使用量。由於額度是預付且永不過期的，您可以隨時充值。沒有月費意味著您無需為閒置容量付費。定期監控您的餘額，以確保在高峰使用期間有足夠的額度。